II.1Анализ требований и архитектура ПО

bartowski/arcee-ai_Trinity-Large-Thinking-GGUF — это GGUF-квантизации текстовой генеративной модели Trinity-Large-Thinking, разработанной arcee-ai. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для задач рассуждения, агентских сценариев и вызова инструментов, а также для локального запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI и совместимые интерфейсы. Модель работает с текстом и поддерживает английский, испанский, французский, немецкий, итальянский, португальский, русский, арабский, хинди, корейский и китайский языки. Доступны варианты квантизации от Q8_0 до более компактных Q3 и IQ3/IQ4; заявленный размер файлов составляет примерно от 181 до 424 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше памяти, тогда как компактные варианты рассчитаны на системы с ограниченными ресурсами. Архитектура, число параметров и размер контекста в README не указаны. Сильными сторонами являются поддержка многоязычной генерации, задач рассуждения и агентского взаимодействия, а также широкий выбор квантизаций. Ограничениями выступают очень большие требования к дисковому пространству и памяти, зависимость совместимости от обновлений используемого программного обеспечения и возможное снижение качества у компактных вариантов. Модель распространяется по лицензии Apache-2.0.

BigFalcon3-from10B — языковая модель для генерации текста и диалогов, созданная ehristoforu с помощью объединения весов через mergekit. В README указана модель tiiuae/Falcon3-10B-Instruct как единственная включённая в объединение; метаданные каталога классифицируют результат как дообучение этой базовой модели. Архитектура плотная, семейства Llama; модель содержит 15,8 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста, а также может использовать интерфейс вызова инструментов. Метаданные базовой модели указывают на сценарии рассуждений, программирования и математики. Репозиторий содержит веса в формате safetensors. Сведения о лицензии и поддерживаемых языках в предоставленных данных отсутствуют.

Citaman/command-r-18-layer — объединённая языковая модель, созданная с помощью mergekit из двух срезов Citaman/command-r-19-layer методом SLERP. В метаданных указаны архитектура CohereForCausalLM, плотная архитектура и 16,9 млрд параметров; веса представлены в safetensors. Модель предназначена для генерации текста и диалогов, а также поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Указанное в метаданных родительское семейство — Cohere; контекст составляет 8192 токена. Карточка не описывает отдельные специализированные области применения и не приводит сведения о лицензии, поэтому условия использования по этим данным определить нельзя.

Citaman/command-r-32-layer — языковая модель семейства Cohere, созданная автором репозитория с помощью mergekit на основе Citaman/command-r-33-layer. В README описано слияние SLERP: в итоговую модель включены срезы слоёв исходной модели, а веса сохранены в формате bfloat16. По метаданным модель содержит 28,4 млрд параметров, использует архитектуру CohereForCausalLM и доступна в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Максимальная длина контекста — 8192 токена. Лицензия и конкретные языки в предоставленных данных не указаны, поэтому область применения и языковую поддержку нельзя уточнить.

Citaman/command-r-35-layer — объединённая модель для генерации текста, созданная Citaman методом SLERP с помощью mergekit на основе Citaman/command-r-36-layer. В конфигурации объединены два среза слоёв одной базовой модели; метаданные относят репозиторий к семейству Cohere и архитектуре CohereForCausalLM с плотными весами. Модель содержит 30,9 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для диалоговой генерации текста и интерфейсов вызова инструментов. Веса доступны в формате safetensors для библиотеки Transformers. В README и метаданных не описаны поддерживаемые естественные языки, качество на конкретных задачах или результаты оценки. Условия лицензирования в предоставленных данных не приведены.

Citaman/command-r-6-layer — слитая с помощью mergekit методом SLERP языковая модель на архитектуре CohereForCausalLM. Она собрана из двух срезов слоёв Citaman/command-r-7-layer и предназначена для диалоговой генерации текста и взаимодействия с инструментами. Модель содержит 7 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Репозиторий распространяет веса в формате safetensors; лицензия в предоставленных данных не указана.

Citaman/command-r-8-layer — созданная с помощью mergekit языковая модель на архитектуре CohereForCausalLM, полученная слиянием SLERP слоёв модели Citaman/command-r-9-layer. В репозитории указаны веса в формате safetensors и тип данных bfloat16; размер модели составляет 8,7 млрд параметров, длина контекста — 8192 токена. Модель предназначена для генерации текста и диалоговых сценариев; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и выдаёт текст. Сведения о поддерживаемых естественных языках и специализированных областях применения отсутствуют. Лицензия в предоставленных данных не указана.

unsloth/DeepSeek-R1-0528-Qwen3-8B-unsloth-bnb-4bit — это 4-битная версия модели DeepSeek-R1-0528-Qwen3-8B, опубликованная Unsloth и основанная на модели DeepSeek AI. Модель предназначена для диалоговых сценариев и задач, требующих рассуждений, включая математику, программирование и общую логику. Она поддерживает режимы с рассуждением и без него и работает через библиотеку Transformers. Модель имеет размер 8B параметров, однако README не содержит подробностей об архитектуре, поддерживаемых языках, модальностях и размере контекста. По заявленным данным, обновление DeepSeek-R1-0528 улучшает глубину рассуждений и результаты на сложных задачах; в частности, точность на AIME 2025 выросла до 87,5%. Для режима рассуждений не рекомендуется использовать жадное декодирование, поскольку это может снижать качество и приводить к повторениям. Для запуска требуется соблюдать рекомендованный шаблон чата и параметры генерации. Модель распространяется под лицензией MIT. README не приводит подробностей о возможных ограничениях качества, безопасности или применимости в критически важных сценариях.

DeepSeek-R1-Distill-Qwen-7B-imatrix-GGUF — это квантизированные в формате GGUF варианты модели DeepSeek-R1-Distill-Qwen-7B, разработанной командой DeepSeek на базе Qwen2.5. Репозиторий предназначен для локального запуска языковой модели в задачах генерации текста, рассуждений, решения математических задач и программирования. Модель относится к плотным моделям примерно на 7 млрд параметров и работает с текстом; в README указан английский язык. Она создана посредством дообучения Qwen2.5 на данных рассуждений, сгенерированных DeepSeek-R1, что позволяет переносить способности крупной reasoning-модели в более компактную модель. Формат GGUF и imatrix-квантизации ориентированы на эффективный запуск через llama.cpp и совместимые приложения, включая KoboldCPP, Ollama, LM Studio и другие клиенты. Сильными сторонами являются компактный размер, возможность локального использования и специализация на сложных рассуждениях, математике и коде. Ограничения конкретных вариантов квантизации, требования к ресурсам, размер контекстного окна и точные характеристики производительности в README не указаны; квантизация может влиять на качество по сравнению с исходной моделью. Лицензия обозначена как other, без подробного описания условий в предоставленных данных.

DeepSeek-V4-Flash-0731-MLX-Serve-mixed-2-3-8bit — это квантованная MLX-конверсия модели DeepSeek-V4-Flash-0731, опубликованная ddalcu и предназначенная для запуска через mlx-serve на Apple Silicon. Модель рассчитана на генерацию текста, включая диалоги, программирование, задачи coding agent и сценарии с вызовом инструментов. Она совместима с OpenAI, Anthropic и Ollama HTTP API, поэтому может использоваться с существующими клиентами и интерфейсами. В основе лежит полная модель размером 284B параметров с конфигурацией A13B. Сборка занимает 115,4 ГБ и использует смешанную точность: основные routed experts в слоях 0–38 имеют 2- и 3-битное квантование с калибровкой по матрице важности, последние четыре слоя — 4-битное, а attention, shared experts, embeddings, LM head и ряд чувствительных компонентов — 8-битную или более высокую точность. Архитектура включает MQA, сжатую историю внимания, hash-routed MoE, Sinkhorn hyper-connections, DSML-формат вызова инструментов и DSpark speculative decoding. Поддерживаются текстовые входы и выходы; в README не указаны дополнительные модальности и языковой охват. Для работы требуется Mac на Apple Silicon с не менее чем 128 ГБ unified memory, macOS 26.2 или новее и mlx-serve. Ожидаемый объём занятой памяти составляет около 98 ГБ, либо примерно 109 ГБ при использовании DSpark; заявлена скорость около 53 токенов в секунду на M-series Mac с 128 ГБ памяти и включённым DSpark. Сильными сторонами являются запуск полной 284B-A13B модели на одном совместимом Mac, native MLX-реализация без Python и калиброванное квантование, направленное на сохранение качества в агентских сценариях. Ограничениями остаются очень высокие требования к памяти и совместимость только с Apple Silicon и mlx-serve. Лицензия — MIT.

Devstral-Small-2507-GGUF — квантованная версия Devstral Small 1.1 (2507), разработанная Mistral AI совместно с All Hands AI и преобразованная в формат GGUF пользователем brittlewis12. Модель предназначена для задач программной инженерии и создания агентных систем: она умеет работать с инструментами, исследовать кодовые базы и редактировать несколько файлов. Модель ориентирована прежде всего на генерацию и анализ текста и кода, а её исходная версия показывает результат 53,6% на SWE-bench Verified в связке с OpenHands Scaffold. Модель дообучена на базе Mistral-Small-3.1-24B-Base-2503 и имеет контекстное окно до 128 000 токенов. Это текстовая модель без поддержки изображений: перед дообучением визуальный энкодер был удалён. В README явно указан английский язык. Формат GGUF предназначен для локального запуска в совместимом программном обеспечении, включая llama.cpp. Ограничения включают текстовую модальность и зависимость производительности от выбранного квантования и аппаратной конфигурации; конкретный размер файлов и параметры квантования в предоставленных данных не указаны. Лицензия — Apache 2.0.

Это bf16-сборка Devstral-Small-2507, подготовленная командой LM Studio Community с помощью mlx_lm для работы на компьютерах Apple Silicon. Исходную модель разработала Mistral AI; это плотная авторегрессионная языковая модель семейства Mistral с 23,4 млрд параметров и контекстом до 131 072 токенов. В репозитории указаны веса safetensors, а библиотека для запуска в метаданных — vLLM. Модель предназначена для диалоговой генерации текста и задач разработки программного обеспечения; интерфейс поддерживает вызов инструментов. Языковые теги охватывают множество языков, включая русский, английский, французский, немецкий, испанский, японский и китайский. Сборка в формате MLX оптимизирована для Apple Silicon, но указанная библиотека vLLM может потребовать другого способа запуска. Лицензия — Apache-2.0. Как и другие генеративные модели, она может выдавать неточные или неподходящие ответы; карточка также предупреждает, что LM Studio не гарантирует качество или пригодность модели.

DFlash-Qwen3.5-27B-Uncensored-GGUF — GGUF-квантизированная версия модели DFlash-Qwen3.5-27B-Uncensored от AEON-7, подготовленная mradermacher. Модель предназначена для генерации текста, диалогов, программирования, рассуждений, агентских сценариев, вызова функций и работы с инструментами. В README также заявлены мультимодальность и поддержка vision-language через отдельный файл mmproj. Модель имеет размер 27 млрд параметров и относится к семейству Qwen3.5 с гибридной архитектурой, сочетающей attention и linear attention; среди заявленных компонентов указаны Gated DeltaNet и block diffusion. Поддерживается английский язык, библиотека Transformers, а также совместимые с OpenAI интерфейсы и vLLM. Максимальный размер контекста в README не указан. Доступны варианты квантования GGUF от Q2_K до Q8_0 и IQ4_XS; размеры файлов составляют примерно от 10,8 до 28,7 ГБ. Варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, а Q8_0 — как обеспечивающий наилучшее качество среди перечисленных. К сильным сторонам относятся широкий набор заявленных сценариев, поддержка инструментов и мультимодальности, а также возможность выбора между различными уровнями квантования для баланса качества, скорости и требований к памяти. Ограничения включают отсутствие в README точных данных о размере контекста, результатах оценки, поддерживаемых языках помимо английского и фактических возможностях мультимодального режима; для него требуется отдельный mmproj-файл. Модель распространяется по лицензии Apache-2.0.

Dolphin-2.7-mixtral-8x7b-GGUF — квантизированная версия языковой модели Dolphin 2.7 Mixtral 8X7B, разработанной Cognitive Computations и преобразованной в формат GGUF компанией Second State Inc. Модель основана на архитектуре Mixtral и предназначена для диалоговых сценариев и генерации текста; README также указывает на использование обучающих наборов для инструкционного следования, программирования и универсальных задач. Заявлен английский язык. Модель поддерживает шаблон запросов ChatML и контекст длиной 4096 токенов. Доступны варианты квантизации от Q2_K до Q8_0 размером примерно от 15,6 до 49,6 ГБ. Q4_K_M, Q5_K_M и Q5_K_S отмечены как рекомендуемые варианты с балансом между размером и качеством, тогда как более низкие уровни квантизации могут приводить к существенной потере качества. Для запуска через LlamaEdge требуется версия 0.2.8 или новее. README не содержит данных о мультимодальности или поддержке других языков. Лицензия модели — Apache-2.0.

gemma-4-12B-it-QUASAR-Q4_0-GGUF — мультимодальная квантованная версия модели Gemma 4 12B Instruct, разработанная QUASAR-QAT на базе google/gemma-4-12B-it. Модель предназначена для диалогов, генерации и понимания текста, работы с изображениями, рассуждений, вызова функций и инструментов, а также агентских сценариев. Заявлена поддержка английского и других языков, однако полный перечень языков и размер контекстного окна в README не указаны. Модель поставляется в формате GGUF с нативной 4-битной INT4-квантизацией Q4_0, выполненной методом quantization-aware training. Указан размер базовой модели 12B параметров; мультимодальная поддержка обеспечивается vision projector из исходной BF16-модели. Формат совместим со стандартными средствами llama.cpp, Ollama и LM Studio. По измерениям авторов, на отложенных чат-запросах модель показала KL-дивергенцию 0,048 и совпадение top-1 с BF16-версией на уровне 94,3%; эти результаты помечены как непроверенные. К сильным сторонам относятся сохранение близкого к BF16 поведения при меньшем размере и требованиях к ресурсам, а также поддержка текста и изображений. Ограничения включают возможные потери качества из-за 4-битной квантизации, зависимость мультимодальных возможностей от совместимого рантайма и отсутствие в README точных требований к памяти, производительности и максимальному контексту. Модель распространяется по лицензии Apache-2.0.

gemma-4-31B-it-Mystery-Fine-Tune-HERETIC-UNCENSORED-Thinking-GGUF — модель на базе Gemma 4 31B, дообученная автором DavidAU с использованием Unsloth и закрытых датасетов. Модель позиционируется как инструкционная и рассуждающая, с минимальными ограничениями на тематику, и выпускается в форматах GGUF с вариантами квантования Q4KS и Q6. Для запуска требуется LLAMACPP версии b8641 или новее. Модель предназначена для диалогов, генерации и продолжения художественных текстов, ролевых сценариев, программирования, анализа и других универсальных задач. Поддерживаются текстовые запросы, а благодаря добавленным mmproj-файлам также обработка изображений. Заявлены режимы instruct и thinking; в режиме thinking внутренние рассуждения оформляются специальными каналами, которые приложение должно корректно отображать. Максимальный контекст, указанный для этой модели, составляет 128K токенов. README также ссылается на возможности Gemma 4: работу с изображениями, документами, видео, функциями и многоязычными запросами; для семейства заявлена поддержка более 35 языков «из коробки». Сильными сторонами являются большой размер модели, длинный контекст, мультимодальность, генерация кода и художественного текста, а также заявленное превосходство над базовой моделью в шести из семи внутренних тестов. Ограничения включают использование закрытых датасетов, наличие нерешённых проблем конвейера и контроля качества, ограниченный набор квантований на момент публикации и возможный перевыпуск файлов после дополнительного обучения. Рекомендуемые параметры генерации: temperature 1.0, top_k 64 и top_p 0.95. Лицензия — Apache 2.0.

Gemma 4 31B JANG4M CRACK — это модифицированная версия Gemma 4 31B IT от dealignai. Модель представляет собой плотную 60-слойную мультимодальную архитектуру с чередованием скользящего и глобального внимания; она предназначена для диалога, рассуждений, генерации кода и обработки изображений. В README автор сообщает о сохранении визуальных возможностей и результатов MMLU на уровне 86,8% после модификации, а также о значительном снижении отказов на тестах HarmBench. Веса представлены в формате Safetensors с квантизацией JANG_4M: 8-битное внимание и 4-битные MLP. Для запуска автор рекомендует vMLX с поддержкой Gemma 4 на Mac с Apple Silicon и достаточным объёмом объединённой памяти; стандартные mlx_lm и mlx_vlm поддерживают модель не полностью. Лицензия — Gemma. README позиционирует выпуск как исследовательский и возлагает на пользователей ответственность за соблюдение применимых законов.

GLM-4.5-Air-bf16 — версия GLM-4.5-Air, подготовленная сообществом mlx-community для запуска в MLX на устройствах Apple с поддержкой MLX. Репозиторий преобразован из zai-org/GLM-4.5-Air с помощью mlx-lm 0.28.2; по метаданным, модель относится к семейству GLM-4 MoE и содержит 8,5 млрд параметров. Лицензия — MIT. Модель предназначена для генерации текста в диалоговом режиме. Базовая GLM-4.5-Air рассчитана на рассуждения, программирование и работу интеллектуальных агентов с инструментами; в этой карточке подтверждены диалоговая возможность и задача text-generation. Контекстное окно — 131 072 токена. Поддерживаемые языки по карточке — английский и китайский. Преобразованная версия упрощает запуск модели в экосистеме MLX. Доступные сведения не подтверждают отдельную оценку качества именно этой сборки или её поддержку вызова инструментов; назначение инструментов указано для базовой модели.

unsloth/GLM-Z1-9B-0414-GGUF — это GGUF-квантизированная версия модели GLM-Z1-9B-0414, разработанной командой THUDM и подготовленной Unsloth. Модель относится к семейству GLM, предназначена для генерации текста и поддерживает китайский и английский языки. Это компактная модель примерно на 9 млрд параметров, ориентированная на локальный запуск в условиях ограниченных вычислительных ресурсов. Модель обучалась с применением методов cold start и расширенного обучения с подкреплением на задачах математики, программирования и логики. Она рассчитана на диалоговые и общие текстовые задачи, требующие рассуждений, включая математическое решение проблем и выполнение сложных инструкций. Для инференса рекомендуется использовать параметры temperature 0.6, top_p 0.95, top_k 40 и max_new_tokens до 30000; поддерживается принудительный режим рассуждений. Базовый максимальный контекст составляет 8192 токена, а для более длинных входов может применяться YaRN с исходным пределом позиционных эмбеддингов 32768 токенов, что потенциально снижает качество на коротких текстах. Для запуска через llama.cpp требуется включить опцию --jinja. Модель распространяется по лицензии MIT.

Это GGUF-сборка модели llmfan46/gpt-oss-120b-ultra-heretic, подготовленная независимым автором llmfan46. В README указано, что исходная модель прошла abliteration: изменялись слои 15–32 с целью снизить частоту отказов при сохранении возможностей. Доступны варианты BF16, Q8_0 и Q5_K_M; метаданные классифицируют эту копию как дообученную модель в формате GGUF. Модель предназначена для диалоговой генерации текста, рассуждений и сценариев с использованием инструментов. README также заявляет поддержку вызова функций, веб-браузинга и структурированных ответов, а запуск описан через llama.cpp, LM Studio и Ollama. Указанные в карточке показатели — 3 отказа из 100 и KL-дивергенция 0,0703 — относятся к оценке автора и не гарантируют результаты на других запросах. Лицензия — Apache 2.0. Сборка ориентирована на пользователей, которым нужна модель с меньшим числом отказов; такие ответы могут быть менее ограничены. Размер параметров и длина контекста для этой GGUF-копии в предоставленных данных не указаны.

p-e-w/gpt-oss-20b-heretic-v2 — версия модели gpt-oss-20b, обработанная методом abliteration для снижения частоты отказов. В приведённом сравнении число отказов составило 49 из 100 против 98 из 100 у исходной openai/gpt-oss-20b; KL-дивергенция относительно оригинала — 0,1248. Модель предназначена для диалогов и генерации текста, включая задачи рассуждения и сценарии с инструментами при использовании формата Harmony. Это разреженная MoE-модель семейства gpt_oss с архитектурой GptOssForCausalLM. В README для исходной gpt-oss-20b указано 21 млрд параметров, из которых активно 3,6 млрд; однако метаданные этого репозитория указывают 1,6 млрд параметров. Контекст составляет 131 072 токена. Модель использует формат safetensors; библиотека — Transformers. README описывает gpt-oss как модель с открытыми весами под лицензией Apache 2.0 и отмечает необходимость формата Harmony. Подходит для локальных диалоговых приложений, генерации и анализа текста, а также агентных сценариев с вызовом функций. Abliteration уменьшила отказы в приведённой оценке, но не устраняет их полностью; результаты оценки ограничены указанной выборкой из 100 примеров. Для этой производной версии README не приводит отдельной оценки качества по задачам.

mlx-community/granite-4.1-8b-bf16 — версия Granite-4.1-8B от mlx-community, преобразованная для MLX из модели ibm-granite/granite-4.1-8b с помощью mlx-lm. Это плотная языковая модель с архитектурой GraniteForCausalLM и 8,4 млрд параметров, предназначенная для генерации текста и диалоговых сценариев. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 131 072 токена. В описании базовой модели указана поддержка нескольких языков, работы с текстом и кодом, а также вызова инструментов, однако эта карточка подтверждает только генерацию текста и диалоговую возможность. Файлы модели представлены в формате safetensors и подготовлены для запуска с MLX. Лицензия — Apache-2.0. Качество и языковой охват унаследованы от базовой модели; отдельные результаты оценки для этой сборки в карточке не приведены.

Hermes-2-Pro-Mixtral-4x7B — разговорная языковая модель, собранная Isotonic как смесь экспертов (MoE) с помощью LazyMergekit из четырёх копий NousResearch/Hermes-2-Pro-Mistral-7B. Модель предназначена для диалогов по инструкциям и генерации текста; поддерживает формат чата ChatML, многошаговое общение, вызов функций и структурированные ответы в JSON. В карточке указано 7,1 млрд параметров и контекст длиной до 32 768 токенов. Репозиторий содержит веса Safetensors; для 4-битного инференса README приводит ориентир около 5 ГБ видеопамяти. Модель может подойти для чат-ботов, ассистентов и сценариев с вызовом инструментов. Лицензия — Apache-2.0. Данных о поддерживаемых естественных языках и конкретных оценках качества в карточке нет.

Huihui-NeoHorse-1-4B-abliterated — экспериментальная версия TokenRhythm/NeoHorse-1-4B от Huihui AI с ослабленными отказами, созданная методом abliteration. Это плотная текстовая авторегрессионная модель семейства Qwen3.5 с 3,4 млрд параметров; она предназначена для диалога, следования инструкциям, рассуждений, программирования и агентных сценариев с вызовом инструментов. Модель работает через библиотеку Transformers и поддерживает контекст до 262 144 токенов. Автор описывает изменение как грубую проверку концепции: аблированы слои 5–17. README также упоминает извлечённые из исходной Qwen3.5-4B компоненты MTP и Vision, которые можно отдельно добавить в каталог модели; доступность этих компонентов в основном наборе весов не подтверждена. Снижение защитных ограничений повышает вероятность чувствительных, спорных или неподходящих ответов, поэтому результаты требуют проверки. Лицензия — Apache-2.0.

InternLM2-20B — плотная языковая модель второго поколения семейства InternLM, разработанная командой InternLM и представленная в репозитории internlm. Она предназначена для генерации и продолжения текста, а также может служить основой для адаптации под предметные области. В опубликованных оценках показаны способности к рассуждению, математике и программированию; карточка также описывает поддержку длинных контекстов. Модель содержит 19,3 млрд параметров, построена на архитектуре InternLM2ForCausalLM и распространяется в формате PyTorch. Метаданные указывают контекст до 32 768 токенов. В README заявлена поддержка до 200 000 символов для базовой модели InternLM2; это значение не следует приравнивать к числу токенов и оно может зависеть от конфигурации конкретного чекпойнта. Карточка приведена на китайском и английском языках, но точный перечень языков модели не указан. Модель подходит для продолжения текста и как языковая основа для задач общего назначения, включая рассуждения, математику и код. Это базовая версия, а не чат-версия InternLM2-Chat, поэтому оптимизация для диалога и следования инструкциям здесь не заявлена. Генерация может содержать ошибки, предвзятость или вредные ответы. Код лицензирован по Apache-2.0; веса открыты для академических исследований, а коммерческое использование требует получения бесплатного разрешения.

IsValorum публикует эту сборку Iris-mini-MTP APEX-I-MiniPlus — квантованную в GGUF версию MoE-модели на архитектуре qwen35moe, предназначенную для генерации текста в диалоге. Веса содержат около 35 млрд параметров, из которых, по README, примерно 3,2 млрд активируются на токен; размер файла составляет 14,84 ГБ, а заявленная средняя точность квантования — 3,42 BPW. Модель сохраняет встроенную голову Multi-Token Prediction для спекулятивного декодирования. Сборка рассчитана на генерацию текста, включая рассуждения, математику и код. README описывает выборочное квантование слоёв и компонентов, а также запуск через llama.cpp; для некоторых конфигураций заявлена работа с контекстом до 256 тысяч токенов. Метаданные указывают поддержку 13 языков, включая русский, английский, китайский, японский и арабский. Репозиторий распространяется по лицензии Apache-2.0. Это прежняя итерация MiniPlus, а не текущая спецификация разработчика. Приведённые в README показатели скорости, качества, принятия предсказанных токенов и использования памяти являются заявлениями автора и зависят от оборудования и настроек; заявленные результаты не следует считать независимой оценкой.

Модель NotoriousH2/kanana-1.5-8b-instruct-2505-Safe-DPO — дообученная инструктивная языковая модель, опубликованная NotoriousH2. Она основана на архитектуре Llama и предназначена для генерации текста в диалоговом формате; в метаданных также отмечен интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст длиной до 32 768 токенов. Карточка сообщает о дообучении с использованием Unsloth и библиотеки TRL. Для весов указана лицензия Apache-2.0.

RedHatAI/Kimi-K2.6-FP8-BLOCK — мультимодальная модель, разработанная RedHatAI на основе moonshotai/Kimi-K2.6 с архитектурой KimiK25ForConditionalGeneration. Она принимает текст, изображения и видео, а генерирует текст. Модель предназначена для диалоговых и прикладных сценариев, включая следование инструкциям, рассуждения, вызов функций, агентные задачи и программирование. Модель использует FP8-квантизацию весов с блочным масштабированием и динамическую групповую FP8-квантизацию активаций. Она экспортирована в формате compressed-tensors и оптимизирована для высокопроизводительного развёртывания через vLLM с OpenAI-совместимым API. В README не указаны размер модели и поддерживаемые языки; заявленная максимальная длина контекста в конфигурации оценки составляет 40960 токенов, однако это не представлено как официальная характеристика модели. По приведённым оценкам, модель показывает сильные результаты в математическом и академическом рассуждении, следовании инструкциям и вызове функций. Ограничения включают заметно более низкие результаты на многошаговом function calling, web search и SWE-Bench Lite, а FP8-квантизация может влиять на точность по сравнению с исходной моделью, несмотря на высокое сохранение качества в большинстве указанных тестов. Для использования требуется окружение vLLM и параметр --trust-remote-code. Лицензия указана как modified-MIT; дополнительные условия в README не раскрыты.

DS-Archive/L3.3-70B-Magnum-v4-SE-Cirrus-x1 — диалоговая языковая модель, созданная объединением моделей Sao10K и Doctor-Shotgun с помощью SLERP и mergekit. Она построена на архитектуре Llama 3.3 с плотной конфигурацией и содержит 69,5 млрд параметров; модель предназначена для генерации текста в формате диалога и поддерживает интерфейс вызова инструментов. Нативная длина контекста — до 131 072 токенов. Модель подходит для диалоговых приложений и генерации ответов с большим контекстом. В README указаны объединённые модели и метод слияния, но не приведены результаты оценки качества, сведения о поддерживаемых языках или специальные ограничения применения. Файлы опубликованы в формате safetensors; лицензия в предоставленных данных не указана.

TeichAI/LFM2.5-1.2B-Thinking-Pony-Alpha-Distill — дообученная TeichAI текстовая модель на архитектуре LFM2 с плотной причинной языковой моделью Lfm2ForCausalLM. Она основана на LiquidAI/LFM2.5-1.2B-Thinking и обучена на датасете TeichAI/Pony-Alpha-15k, сформированном на основе раннего чекпойнта Pony Alpha. Модель предназначена для генерации текста с рассуждениями и диалогов; среди заявленных сценариев — программирование, научные задачи и глубокое исследование. Поддерживает контекст до 128 000 токенов, содержит 1,5 млрд параметров и доступна в формате Safetensors. Метаданные отмечают интерфейс для вызова инструментов. Лицензия — Apache 2.0. Это компактная модель для локального развёртывания и задач, где полезны рассуждения и длинный контекст. README приводит рекомендованные параметры генерации: temperature 0,05, top_k 50 и repeat_penalty 1,05. Карточка не сообщает результаты оценивания или подробности о качестве и ограничениях модели; заявленные сценарии следует считать ориентиром, а не гарантией точности.