II.1Анализ требований и архитектура ПО

mlx-community/Qwen2.5-7B-Instruct-4bit — преобразованная в формат MLX 4-битная версия Qwen2.5-7B-Instruct, подготовленная сообществом mlx-community с помощью mlx-lm 0.18.1. Это плотная авторегрессионная языковая модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для диалоговой генерации текста и запуска на устройствах Apple Silicon через MLX. Модель принимает текстовые запросы и выдаёт текст; метаданные указывают контекстное окно 32 768 токенов и интерфейс для вызова инструментов. Модель подходит для диалоговых помощников, ответов на вопросы, написания и преобразования текстов. Карточка подтверждает английский язык; других языков по предоставленным сведениям определить нельзя. Репозиторий указывает лицензию Apache-2.0. Ограничения качества и оценки модели в карточке не описаны.

TeichAI/Qwen3-14B-GPT-5.2-High-Reasoning-Distill — плотная авторегрессионная языковая модель семейства Qwen3 на 14 млрд параметров, дообученная TeichAI на базе unsloth/Qwen3-14B. Модель предназначена для генерации текста и диалогового взаимодействия; карточка также указывает интерфейс вызова инструментов. Длина контекста составляет 40 960 токенов. Модель обучена на наборе TeichAI/gpt-5.2-high-reasoning-250x с использованием Unsloth и библиотеки TRL от Hugging Face. Она может применяться для диалоговых ответов и генерации текста с рассуждениями. Веса опубликованы в формате safetensors; лицензия — Apache-2.0. Карточка не приводит оценок качества или подробных результатов тестирования.

Qwen3-4B-Instruct-2507-4bit — языковая instruct-модель для генерации текста, разработанная командой Qwen и конвертированная сообществом mlx-community в формат MLX из базовой модели Qwen/Qwen3-4B-Instruct-2507. Модель предназначена для диалогового взаимодействия и выполнения текстовых запросов с использованием chat template. Модель содержит 4 миллиарда параметров и представлена в 4-битном формате квантования. Она работает с текстовой модальностью; сведения о поддерживаемых языках и размере контекста в README не указаны. Формат MLX и использование библиотеки mlx-lm ориентированы на запуск модели в экосистеме MLX. Конкретные преимущества и ограничения качества по сравнению с исходной моделью в предоставленных данных не описаны; 4-битное представление может влиять на точность, но степень такого влияния не указана. Модель распространяется по лицензии Apache 2.0. Конвертация выполнена с использованием mlx-lm версии 0.26.2.

MMOPD/Qwen3-4B-OT3-tau — плотная языковая модель семейства Qwen3 с 3,7 млрд параметров, разработанная MMOPD. Это дообученная версия MMOPD/Qwen3-4B-OT3-2ep: к модели рассуждений добавили supervised fine-tuning на 33 531 траектории Tau2 из inclusionAI/AReaL-tau2-data. Модель сохраняет исходный шаблон чата и режим рассуждений, рассчитана на многошаговое взаимодействие с инструментами и вызовы инструментов в диалоге. Контекст составляет до 32 768 токенов; вход и выход — текст.

Карточка модели Bobi099/Qwen3.5-27B-heretic на Hugging Face совпадает с карточкой coder3101/Qwen3.5-27B-heretic, поэтому описание составлено по ней. coder3101/Qwen3.5-27B-heretic — производная мультимодальная модель на основе Qwen/Qwen3.5-27B, опубликованная в формате Transformers. В карточке представлены параметры abliteration и сравнение с исходной моделью: доля отказов в приведённом тесте снизилась с 94 до 14 из 100, а KL-дивергенция составила 0,0653. Модель сохраняет архитектуру Qwen3.5 с языковой моделью и энкодером изображений; заявленный размер — 27 млрд параметров. Модель предназначена для диалогов, рассуждений, анализа изображений и сценариев с вызовом инструментов. Базовая Qwen3.5 поддерживает 201 язык и диалект, имеет контекст 262 144 токена с возможностью расширения до 1 010 000 токенов; карточка не приводит отдельных измерений этих характеристик для данной производной модели. Уменьшение числа отказов может быть полезно там, где нужна менее ограниченная генерация, но приведённая оценка не описывает полноту качества или безопасность ответов. Лицензия — Apache-2.0.

txn545/Qwen3.5-35B-A3B-NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3.5-35B-A3B, разработанной Alibaba. Квантизация выполнена с помощью NVIDIA Model Optimizer до формата NVFP4; модель предназначена для текстового ввода и генерации текста. Модель рассчитана на разработчиков, которым нужны готовые к развертыванию решения для AI Agent-систем, чат-ботов, RAG-систем и других приложений на базе ИИ. Она использует трансформерную архитектуру Qwen3.5-35B-A3B с 35 млрд параметров, из которых активируется 3 млрд, и поддерживает контекст до 262K токенов. Указанные сценарии инференса ориентированы на NVIDIA GPU, в частности архитектуру Blackwell, Linux и движок SGLang. Ключевое преимущество модели — предварительная NVFP4-квантизация весов и активаций линейных операторов в MoE-блоках, что предназначено для эффективного инференса на совместимом оборудовании. Ограничения включают зависимость от NVIDIA GPU и совместимой версии SGLang, а также возможные неточности, токсичные ответы и усиление предубеждений, унаследованных от обучающих данных базовой модели. Модель распространяется по лицензии Apache 2.0 и допускает коммерческое и некоммерческое использование с учетом требований базовой модели.

Qwen35B-Agent-R2-i1-GGUF — квантизированная GGUF-версия модели Qwen35B-Agent-R2, подготовленная mradermacher. Базовая модель разработана автором или организацией hotdogs; точная информация о разработчике в README не указана. Модель предназначена для генерации текста, диалоговых сценариев, reasoning, агентских задач, использования инструментов и tool calling. Обучение или дообучение связано с датасетами для рассуждений, агентскими траекториями и conversational-задачами. Модель относится к архитектуре Mixture-of-Experts и имеет заявленный размер 35B, поддерживает текстовый ввод и вывод. В метаданных указаны английский и тайский языки. Модель распространяется в виде набора квантизаций GGUF с разным компромиссом между размером, скоростью и качеством: от IQ1_S размером 7,6 ГБ до Q6_K размером 28,6 ГБ. Варианты IQ-квантизации могут быть предпочтительнее сопоставимых обычных вариантов по размеру, но низкобитные версии заметно ограничены по качеству. Оптимальными по соотношению размера, скорости и качества README называет i1-Q4_K_S, а i1-Q4_K_M — быстрой и рекомендуемой. В README не указаны размер контекстного окна, точные параметры архитектуры, мультимодальные возможности и результаты бенчмарков, поэтому нельзя сделать выводы об этих характеристиках. Лицензия модели — AGPL-3.0; условия использования производных квантизированных файлов следует учитывать вместе с лицензией базовой модели.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель на базе Qwen3.6-27B. Разработка выполнена в сотрудничестве DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh; модель распространяется в формате GGUF, включая обычные варианты и варианты с multi-token prediction (MTP). Доступны квантизации с использованием NEO IMATRIX, а выходной тензор в описании заявлен как частично сохранённый в 16-битной точности. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, ролевых сценариев и других универсальных применений. Заявлена поддержка текста и изображений, а также английского и китайского языков. Размер модели — 27B параметров; конкретный максимальный размер контекста в README не указан. Дообучение ориентировано на повышение общего интеллекта, способности к рассуждению и качеству следования инструкциям, без намеренного изменения базовых возможностей Qwen. Модель позиционируется как uncensored и heretic. К сильным сторонам относятся наличие нескольких вариантов квантизации для запуска на потребительском оборудовании, улучшенная точность GGUF благодаря NEO IMATRIX и заявленные автором высокие результаты на ряде бенчмарков. При этом приведённые показатели и превосходство над другими моделями являются утверждениями README и требуют независимой проверки. Возможны ограничения, связанные с качеством конкретной квантизации, требованиями к памяти и производительности оборудования, а также с отсутствием точных данных о контекстном окне и детальных условиях работы с изображениями. Лицензия модели — Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая языковая модель на базе Qwen3.6-27B, разработанная в результате совместной работы автора, Nightmedia, TeichAI, armand0e и trohrbaugh. Модель создана с применением многоэтапного дообучения и слияния нескольких версий, включая датасеты DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Заявленная цель — улучшить следование инструкциям, общее решение задач, рассуждения и интеллект без изменения основных возможностей базовой модели. Модель предназначена для широкого спектра сценариев: диалогов, анализа, программирования, решения задач, рассуждений, творческого письма, художественной прозы и ролевых взаимодействий. Указаны поддержка английского и китайского языков, а также vision, однако подробности о визуальной архитектуре и поддерживаемых форматах входных данных не приведены. Доступны обычные GGUF-квантизации и варианты MTP для multi-token prediction, включая 4-битные и 8-битные сборки; заявлена оптимизация NEO IMATRIX и частичное сохранение выходного тензора в 16-битной точности. К сильным сторонам относятся улучшенное следование инструкциям, решение задач и рассуждения, а также заявленная высокая производительность на ряде бенчмарков даже в низких квантизациях. Модель позиционируется как uncensored и heretic, то есть с ослабленными ограничениями безопасности, что может быть преимуществом для некоторых сценариев, но повышает риски нежелательного или небезопасного вывода. Для MTP-вариантов рекомендуется температура не выше 1 и отключённый repetition penalty; при низком уровне token acceptance следует использовать обычную квантизацию. Лицензия Apache-2.0.

trymirai/Qwen3.6-27B-L — квантизированная версия языковой модели Qwen3.6-27B, подготовленная Mirai Labs для эффективного локального вывода на компьютерах Apple с Apple silicon. Модель предназначена для генерации текста и локальных сценариев использования большой языковой модели, включая задачи, поддерживаемые исходной Qwen3.6-27B. Точные сведения о назначении, языках и контекстном окне в этой карточке не приведены. Модель содержит 27 млрд параметров и использует посттренировочную 8-битную симметричную целочисленную квантизацию с масштабами bfloat16 и размером группы 64. Для уменьшения выбросов активаций и весов применяются блочно-диагональные Random Hadamard Transforms с размером блока 32. По размеру и уровню квантизации checkpoint сопоставим с Unsloth UD-Q8_K_XL в формате GGUF. Ключевые преимущества — сохранение качества при уменьшенном размере и ориентация на эффективный локальный запуск. Основное ограничение — на данный момент поддерживается только inference на Apple silicon; характеристики, оценки и ограничения исходной модели Qwen3.6-27B следует уточнять в её оригинальной карточке. Модель распространяется по лицензии Apache 2.0.

FlagRelease/Qwen3.6-27B-metax-FlagOS-Express — вариант открытой модели Qwen3.6, опубликованный FlagRelease для запуска через стек FlagOS на ускорителях Metax. Модель относится к плотной архитектуре Qwen3.5 и предназначена для диалогов и программирования: README отмечает агентное создание интерфейсов, рассуждение на уровне репозитория и сохранение контекста рассуждений между сообщениями. В метаданных указаны возможности чата и интерфейс вызова инструментов, а также поддержка китайского и английского языков. Карточка приводит результаты оценки GPQA Diamond и ERQA, а также сравнение производительности FlagOS с H100 при нескольких размерах контекста и 64 параллельных запросах. В README описано развёртывание в контейнере FlagOS-Metax и взаимодействие через AnythingLLM. Репозиторий содержит веса safetensors. Лицензия — Apache-2.0. Число параметров и максимальная длина контекста в доступных сведениях не приведены.

Qwen3.6-27B-Uncensored-HauhauCS-Aggressive-MTP — пользовательская версия модели, опубликованная AIOpsInSpace. Она основана на Qwen3.6-27B и HauhauCS/Qwen3.6-27B-Uncensored-HauhauCS-Aggressive и распространяется в формате GGUF. Модель предназначена для генерации текста, диалогов, задач рассуждения и сложных рабочих процессов, включая программирование. Заявлены плотная архитектура размером 27B параметров, англоязычная поддержка и режим Multi-Token Prediction (MTP) для speculative decoding, который может ускорять инференс при совместимом программном обеспечении. Модель позиционируется как aggressively uncensored, то есть с минимальными ограничениями на содержание ответов. К сильным сторонам относятся заявленные conversational и reasoning-возможности, ориентация на локальное развёртывание и потенциально повышенная скорость генерации благодаря MTP. Ограничения включают отсутствие в предоставленных данных сведений о размере контекстного окна, точных результатах бенчмарков, требованиях к оборудованию и полной совместимости бэкендов; эффективность speculative decoding зависит от используемой инфраструктуры. Указанная лицензия — Apache-2.0.

esatapedico преобразовал NVFP4-чекпойнт Qwen3.8-27B-Cold-Fusion-GAIN-V1.1 в семейство из шести GGUF-файлов для запуска через llama.cpp. Модель разработана на основе Qwen3.8-27B: это плотная гибридная архитектура с Gated DeltaNet и слоями Gated Attention, а её исходный вариант дообучен DavidAU методом Cold Fusion (GAIN + Unsloth). По README, в модели 27 млрд параметров и контекст до 262 144 токенов. Модель предназначена для генерации текста и диалогов. Она поддерживает мультимодальную обработку изображений при подключении отдельного проектора mmproj-BF16.gguf; в опубликованные GGUF-файлы веса проектора не входят. В каждом файле встроена MTP-голова для спекулятивного декодирования. Шесть вариантов отличаются точностью квантования головы вывода, эмбеддингов и MTP-головы; языковая основа общая и содержит NVFP4-тензоры. README приводит результаты отдельных пробных запусков на двух GPU, а не систематический бенчмарк; скорость и качество могут зависеть от оборудования и конфигурации. Для работы с изображениями нужен совместимый проектор. Репозиторий распространяется по лицензии Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — модель семейства Qwen3.8 с 27 млрд параметров, представленная в виде GGUF-квантовок. По README, это многоэтапная fine-tune-модель и результат объединения нескольких обученных версий, созданная с использованием Unsloth, методов Cold Fusion и Fable Fusion. В репозитории доступны обычные GGUF-варианты и варианты с MTP, включая 4- и 8-битные квантовки. Заявлены поддержка английского и китайского языков; максимальный размер контекста не указан. Метаданные также содержат тег image-text-to-text, однако подробности мультимодальных возможностей не приведены. Модель ориентирована на широкий спектр сценариев: решение задач и рассуждение, программирование, творческое письмо, художественную прозу, ролевые диалоги и другие универсальные задачи. Основной заявленный акцент — повышение качества при одновременном сокращении объёма внутренних thinking-токенов, что должно уменьшать задержку и расход вычислительных ресурсов. Автор README заявляет превосходство над базовой Qwen3.8-27B и рядом других моделей по семи ключевым бенчмаркам, а также высокие результаты ARC-C и ARC-E, но эти утверждения требуют независимой проверки. К сильным сторонам относятся ориентация на потребительское оборудование, наличие разных уровней квантования, поддержка MTP и заявленное сочетание подробных ответов с более быстрым выводом. Ограничения включают отсутствие в README точных сведений о контекстном окне, архитектурных деталях, системных требованиях, качестве мультимодальной обработки и воспроизводимых результатах тестов. Модель распространяется по лицензии Apache-2.0.

Это мультимодальная диалоговая модель семейства Qwen3.5 с плотной архитектурой Qwen3_5ForConditionalGeneration и 27 млрд параметров, представленная Solstice-AI. Репозиторий содержит версию NVFP4 для оборудования NVIDIA Blackwell и упакованную конфигурацию с контекстом до 1 048 576 токенов на основе YaRN; заявлена автоматическая настройка контекста при запуске в vLLM и SGLang. Модель предназначена для диалога, следования инструкциям, творческого письма и анализа изображений. Поддерживает текстовый и визуальный ввод и выдаёт текст; в метаданных также указаны интерфейс вызова инструментов и английский и китайский языки. Это производная от дообученной модели DavidAU версия, упакованная Solstice-AI; лицензия — Apache-2.0. Заявление README о NVFP4 для Blackwell соседствует с метаданными о форматах GGUF BF16 и safetensors, поэтому точный формат конкретных файлов следует проверять в репозитории. Длина контекста 1 млн токенов заявлена в конфигурации, но практические требования к памяти и производительность зависят от оборудования и движка инференса.

Qwen3.8-27B-UD-Q3_K_XL-MTP-MLX — это MLX-квантизация базовой модели Qwen/Qwen3.8-27B, подготовленная Nathan Sutton для локального запуска на компьютерах Apple Silicon. Модель предназначена прежде всего для генерации текста, программирования и работы в локальном coding agent chad, выполненном в стиле Claude Code. Она может использоваться через chad или напрямую с библиотекой mlx-lm. Модель имеет плотную архитектуру Qwen3.5 на 27 млрд параметров: 64 слоя, включая 48 слоёв GatedDeltaNet и 16 слоёв full attention. Основная часть весов и embeddings квантизирована до 3 бит с группами по 64 значения, а lm_head — до 5 бит; итоговый объём весов составляет около 12,1 ГБ, дополнительно поставляется 4-битная MTP-head. Заявлен нативный контекст до 262 тысяч токенов, однако на устройствах Apple Silicon с 24 ГБ памяти фактическое окно обычно ограничивается десятками тысяч токенов в зависимости от доступного бюджета Metal. MTP-head поддерживает self-speculative decoding, ускоряя генерацию с сохранением точности распределения модели. Шаблон чата по умолчанию использует reasoning_effort medium вместо upstream-значения xhigh. Языки и мультимодальные возможности в README не указаны. Модель ориентирована на устройства с 24 ГБ памяти Apple Silicon, а её лицензия наследуется от базовой Qwen/Qwen3.8-27B и требует проверки перед использованием или распространением.

Sohailhosseini/Qwen3.8-9B-Distill-AWQ-W4A16 — квантизированная версия модели empero-ai/Qwen3.8-9B-Distill, подготовленная пользователем Sohailhosseini. Модель предназначена для генерации текста и диалогового взаимодействия, а заявленный pipeline_tag указывает на поддержку сценариев image-text-to-text. В README также отмечена пригодность для instruction-тuned и многоязычных моделей, однако конкретный набор поддерживаемых языков не указан. Модель содержит 9,7 млрд параметров и использует схему AWQ-W4A16 с 4-битными весами в формате compressed-tensors. Размер на диске составляет около 8,6 ГБ — примерно в 2,24 раза меньше исходных 19,3 ГБ. Квантизация выполнена на GPU A40 с использованием 256 образцов из набора HuggingFaceH4/ultrachat_200k. Слои lm_head и компоненты, связанные с visual, vision_tower, vision_model, multi_modal_projector и merger, оставлены без квантизации, что соответствует мультимодальной конфигурации. Основные преимущества — сниженные требования к хранению и потенциально более эффективный запуск при сохранении качества исходной модели; README отдельно отмечает быструю калибровку и обычно более высокую устойчивость на instruction-тuned и многоязычных моделях. Для запуска рекомендуется vLLM с максимальной длиной контекста 32768 токенов. Ограничение схемы заключается в её асимметричности: некоторые старые ядра vLLM могут лучше работать с симметричным W4A16. Лицензия — Apache-2.0, унаследованная от исходной модели.

Qwen3.8-Flash-Next-DERISKED-MTPLX-Optimized-Speed — локальная модель генерации текста, разработанная на основе чекпойнта Blackfrost-AI/Qwen3.8-Flash-Next-DERISKED-BF16 и адаптированная для запуска через MTPLX на компьютерах Apple Silicon. Она предназначена для чата, генерации текста и кода, локального использования, а также контролируемых исследований безопасности и red-team-оценки. Модель не является безопасным production-чекпойнтом: её поведение и поверхность отказов были изменены на уровне весов для операторских исследований. Это квантованная версия архитектуры Qwen 3.8 Flash-Next с гибридной MoE-архитектурой GDN, Qwen Sparse Attention, памятью n-gram на 51 млрд параметров и встроенной головой multi-token prediction. Основная часть экспертов и плотных матриц представлена в 4-битном формате, отдельные компоненты внимания, маршрутизации, эмбеддинги и выходная голова — в 8-битном, а ряд рекуррентных и нормализующих параметров сохраняет 16-битную точность. Модель поддерживает текстовые и визуальные веса, имеет контекстное окно 262 144 токена, адаптивную глубину MTP до трёх токенов и требует около 115,3 ГБ для загрузки. Для работы рекомендуется Apple Silicon Mac с unified memory от 96 ГБ; таблица n-gram объёмом 32 ГБ по умолчанию размещается на SSD. Сильные стороны модели — оптимизация под Apple Silicon, сохранение повышенной точности в ключевых компонентах внимания и ускорение спекулятивной генерации: на M5 Max заявлены 66,2 токена в секунду против 46,6 токена в секунду в авторегрессионном режиме. Ограничения включают высокие требования к памяти и дисковому пространству, зависимость от MTPLX и отсутствие встроенной системы авторизации или полноценной границы безопасности. Рекомендуется использовать аутентифицированные точки доступа, отдельное журналирование запросов и инструментов, минимальные привилегии, песочницы и ручное подтверждение необратимых действий. Указана лицензия qwen-community-1.0 с типом license other; ссылка ведёт на файл LICENSE. Модель наследует статус и ограничения базового DERISKED-чекпойнта Blackfrost-AI.

Это исследовательский вариант Qwen3-Next-80B-A3B-Thinking с разреженными экспертами, усреднённо квантованными до 2,36 бита; остальные веса хранятся в BF16. Разработчик — minjaechoi. Модель предназначена для генерации текста и диалога, включая задачи рассуждения, унаследованные от базовой модели. Архитектура — MoE; по карточке Hugging Face, размер составляет 2,3 млрд параметров, а длина контекста — 262 144 токена. Метаданные также отмечают интерфейс для вызова инструментов. Веса сохранены в формате safetensors как BF16-тензоры после деквантизации; README сообщает о совместимости со стандартными Transformers и vLLM. Лицензия наследуется от базовой модели. Карточка характеризует этот чекпойнт как внутренний исследовательский, поэтому его качество и пригодность для конкретных задач следует проверять отдельно.

Карточка модели rhombus18/rhododendron-default-1o на Hugging Face совпадает с карточкой rhombus18/rhododendron-professor-1o, поэтому описание составлено по ней. Rhombus18 Rhododendron Professor 1o — дообученная языковая модель семейства Qwen3, разработанная пользователем rhombus18 на основе unsloth/qwen3-32b-bnb-4bit. Модель имеет плотную архитектуру Qwen3ForCausalLM и содержит 29,7 млрд параметров. Карточка указывает обучение с помощью Unsloth и библиотеки TRL от Hugging Face; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Она поддерживает английский язык и контекст длиной до 128 000 токенов. В README не описаны специализированные области применения или результаты оценки качества, поэтому пригодность для конкретных задач следует проверять отдельно. Лицензия — Apache 2.0.

RWKV7-G1 «GooseOne» — семейство базовых языковых моделей от BlinkDL на архитектуре RWKV-7, сочетающей свойства рекуррентной сети и языковой модели с авторегрессионной генерацией. Модели предварительно обучены на веб-текстах, коде, синтетических данных, а также инструкционных, диалоговых и рассуждательных примерах; доступны варианты от 0,1 до 13,3 млрд параметров. Указаны словарь из 65 536 токенов и размер головы 64. Модели предназначены для генерации текста, диалога и рассуждений, а также для дальнейшего дообучения и адаптации под конкретные задачи. Автор отмечает локальный запуск на мобильных и настольных устройствах и высокую скорость инференса; приведённые показатели относятся к RWKV-7 7,2B на RTX 5090. В карточке описаны рекомендации по настройкам генерации и вызову функций. Карточка не сообщает длину контекста и не приводит сопоставимых оценок качества, поэтому производительность на конкретных задачах следует проверять отдельно. Модели распространяются по лицензии Apache-2.0.

RWKV7-G1i-13.3B-20260805 — базовая языковая модель семейства RWKV-7, разработанная Bo Peng, Yu Zhang, Songlin Yang, Ruichong Zhang и Zhiyuan Li при поддержке RWKV Project под эгидой LF AI & Data Foundation. Это плотная авторегрессионная модель с архитектурой RWKV7ForCausalLM; метаданные указывают 14,6 млрд параметров, а карточка README — 13,3 млрд. Модель обучена на веб-текстах, коде, синтетических данных, инструкциях, диалогах и рассуждениях; в репозитории указаны веса safetensors и интерфейсный шаблон чата. RWKV-7 использует рекуррентное состояние постоянного размера и постоянную вычислительную работу на генерируемый токен, сохраняя возможность параллельного обучения. Модель предназначена для генерации текста, оценки, последующего обучения и дообучения; поддерживает английский, китайский, японский, корейский, французский, арабский, испанский и португальский языки. Метаданные задают контекст 2048 токенов, тогда как название файла в README содержит обозначение ctx16384, поэтому фактическую длину контекста следует сверить с используемой конфигурацией. Модель распространяется по лицензии Apache-2.0. README прямо предупреждает, что базовый чекпойнт не является выровненным по безопасности ассистентом: шаблон чата служит интерфейсом для подачи запросов и сам по себе не гарантирует безопасное поведение.

Slush-Sunfall-Rocinante-GGLD-12B — объединённая языковая модель, созданная сообществом mergekit-community из IAmTheCollector/MN-Slush-GGLD и knifeayumu/Rocinante-12B-v1-nemo-sunfall-v0.6.1-SLERP. Модели объединены методом SLERP в формате bfloat16; конфигурация задаёт Slush-GGLD для входных и выходных слоёв и Rocinante-Sunfall для промежуточных слоёв. Модель построена на плотной архитектуре MistralForCausalLM и содержит 12,1 млрд параметров. Она предназначена для генерации текста и диалогов; карточка также отмечает интерфейс вызова инструментов. Указанное нативное контекстное окно — 1 024 000 токенов. Метаданные указывают библиотеку Transformers и формат safetensors. Лицензия в предоставленных сведениях не приведена.

Speechless Instruct Mistral 7B v0.2 — дообученная на инструкционных данных языковая модель на архитектуре Mistral, опубликованная uukuguy. Веса содержат 7,1 млрд параметров; модель принимает текст и имеет контекстное окно до 32 768 токенов. Для инструкций используется формат Alpaca. Модель предназначена для ответов на инструкции, рассуждений и планирования, а также для задач программирования, включая генерацию и объяснение кода на Python и работу с SQL. В обучающую выборку вошли примеры из Airoboros, OpenOrca, Open-Platypus, WizardLM, Python Eval Instruct и Spider; карточка сообщает о 201 981 примере. Указаны результаты отдельных тестов, но значение HumanEval в карточке отсутствует. Модель распространяется по лицензии Apache-2.0. Карточка описывает её как средство для улучшения рассуждений и планирования базовой Mistral, однако подробностей об оценке этих возможностей и ограничениях качества не приводит.

Google T5Gemma-B-B-UL2 — предварительно обученная текстовая модель из семейства T5Gemma. Это энкодер-декодерная архитектура, адаптированная из decoder-only моделей Gemma; данный вариант использует энкодер B и декодер B и подготовлен с помощью UL2. Модель принимает текст и генерирует текст на английском языке. Модель предназначена для генерации и преобразования текста, в том числе ответов на вопросы, суммаризации и задач рассуждения. Её энкодер также может применяться в дискриминативных сценариях, например для классификации и понимания текста. Компактный размер семейства позволяет развёртывать модели на локальных компьютерах и в облачной инфраструктуре, однако точное число параметров этого варианта в предоставленных данных не указано. К ограничениям относятся возможные фактические ошибки, предвзятость обучающих данных и трудности с тонкими языковыми нюансами или сложными открытыми задачами. Модель распространяется с открытыми весами по лицензии Gemma; для использования следует учитывать политику запрещённого использования Gemma.

Tele-FLM-1T (также FLM-2-1T) — мультиязычная большая языковая модель, разработанная BAAI и TeleAI. Это авторегрессионный декодерный трансформер семейства TeleFLM с 1,1 трлн параметров, обученный примерно на 2,3 трлн токенов. В архитектуре используются RoPE, RMSNorm и SwiGLU; длина контекста составляет 4096 токенов. Модель рассчитана на генерацию текста и сложные языковые задачи, а разработчики отдельно отмечают улучшенные возможности фактического суждения. Модель поддерживает английский, китайский и другие языки. Разработчики публикуют веса, описание архитектурных решений и сведения об обучении для академического и промышленного сообщества. На момент описания модель ещё проходит оценку из-за ограниченных вычислительных ресурсов, поэтому её возможности не следует считать окончательно подтверждёнными. Лицензия — Apache 2.0. Несмотря на очистку обучающего корпуса, модель может воспроизводить предвзятые, дискриминационные или оскорбительные примеры и генерировать небезопасный контент.

Это объединённая модель генерации текста на архитектуре Llama, созданная с помощью mergekit методом della_linear. В качестве базовой использована Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2; также объединены Solshine/reflection-llama-3.1-8B, три версии ArliAI/Llama-3.1-8B-ArliAI-RPMax и Skywork-o1-Open-Llama-3.1-8B. Размер модели — 7,5 млрд параметров, формат весов — safetensors. Модель предназначена для диалоговой генерации текста и ответов на инструкции. Контекстное окно составляет до 131 072 токенов; метаданные также указывают интерфейс вызова инструментов. Карточка не приводит оценки качества или результаты тестирования. Лицензия в предоставленных сведениях не указана.

Triangulum-10B-GGUF — это квантизированная версия языковой модели Triangulum-10B, разработанной prithivMLmods и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста, задач рассуждения и сценариев, где требуется пошаговое объяснение решения. В метаданных также указаны поддержка оценки кода, точности, математических задач и символьных операций. Модель содержит около 10 млрд параметров и относится к семейству causal language models на базе Llama. Доступны варианты от F16 до низкобитных квантований Q8, Q6, Q5, Q4, Q3 и Q2, включая форматы IQ. Размер файлов составляет примерно от 3,6 до 20,6 ГБ. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель работает с текстом; сведения о мультимодальности и размере контекстного окна не указаны. Сильной стороной являются разнообразие вариантов квантования и возможность локального запуска через llama.cpp и совместимые приложения, включая LM Studio. В README рекомендуются варианты Q6_K_L, Q6_K, Q5 и Q4 для сочетания качества и размера, тогда как низкобитные варианты экономят память, но снижают качество. Формат инструкций для запросов не указан, поэтому его необходимо уточнять по странице исходной модели. Лицензия обозначена как llama3.1.

Trismal-NeurAmoclion-7B-Base-Ties — объединённая модель на основе Mistral, созданная JoPmt с помощью LazyMergekit. Она объединяет JoPmt/Trismal-HyperAmocles-7B-Base-Ties и Locutusque/NeuralHyperion-2.0-Mistral-7B методом TIES. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и принимает контекст до 32 768 токенов. Модель предназначена для генерации текста. Описание базовой модели указывает на поддержку сложных вопросов, научных рассуждений, генерации кода и диалогов; README не уточняет, насколько эти возможности сохраняются после слияния. Доступные сведения не описывают лицензию или языки модели.

Uraion Forge 2B MLX — дообученная Uraion Labs модель на базе openbmb/MiniCPM5-2B, подготовленная для запуска с библиотекой MLX на компьютерах Apple Silicon. Это компактная причинная языковая модель архитектуры LlamaForCausalLM с 2,2 млрд параметров и контекстом до 131 072 токенов. Модель предназначена прежде всего для диалогов, рассуждений, генерации кода и многошаговых сценариев с вызовом инструментов; README описывает режимы с включённым и отключённым рассуждением. Карточка заявляет оптимизацию для локального выполнения на чипах Apple M1–M6 и приводит варианты квантования 4 и 8 бит, а также результаты собственных проверок агентных рабочих процессов, кода и извлечения данных из длинного контекста. Эти показатели относятся к тестам и оборудованию, описанным разработчиком, и не гарантируют такую же скорость или точность в других условиях. Указанный в метаданных формат файлов — safetensors; библиотека — MLX. Лицензия — Apache-2.0. Язык карточки и языковой тег указывают на английский; поддержка других языков в предоставленных данных не подтверждена.