IV.9Медиа, журналистика, культура, архивы и игры

Kimi K3 — открытая мультимодальная модель с весами от Moonshot AI для агентных сценариев, рассуждений и работы с большими контекстами. В карточке указана архитектура Kimi Delta Attention (KDA), Attention Residuals и разреженный MoE с 896 экспертами, из которых активируются 16; размер модели — 2,8 трлн параметров. Модель принимает текст, изображения и видео, а заявленное контекстное окно составляет 1 млн токенов. Модель предназначена для длительных задач разработки, включая анализ больших репозиториев и управление инструментами, а также для исследовательской и аналитической работы с текстом и визуальными материалами. Она поддерживает режим рассуждения с настраиваемым уровнем усилий и предоставляет reasoning_content. Веса выпущены по лицензии Kimi K3 License; подробные условия лицензии в предоставленных материалах не раскрыты.

Qwen3.8-27B-FP8 — FP8-квантизированная версия модели Qwen3.8-27B, разработанной командой Qwen. Это плотная причинная языковая модель с визуальным энкодером, предназначенная для работы с текстом, изображениями и видео. Модель ориентирована на программирование, профессиональные и исследовательские задачи, автономное планирование, агентные сценарии и выполнение сложных многошаговых задач. Режим рассуждений включён по умолчанию, но может отключаться для отдельных запросов; глубина рассуждений настраивается параметром reasoning_effort, а контекст рассуждений из предыдущих сообщений может сохраняться через preserve_thinking. Модель содержит 27 млрд параметров, 64 слоя и использует архитектуру, сочетающую Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 000 000 токенов. Поддерживается понимание изображений и видео, включая документы, STEM-диаграммы и длительные видеоматериалы, однако конкретный перечень языков в README не указан. Веса квантизированы методом fine-grained FP8 с размером блока 128; заявлено, что показатели близки к исходной модели. Формат совместим с Hugging Face Transformers, vLLM, SGLang и другими инструментами инференса. Лицензия — Apache 2.0. Ограничениями являются необходимость подходящей инфраструктуры для локального развёртывания, возможные особенности FP8-инференса и отсутствие в предоставленных данных подробных результатов бенчмарков и языкового покрытия.

unsloth/Qwen3.8-2.4T-A95B-GGUF — квантованная версия открытой модели Qwen3.8-2.4T-A95B, подготовленная Unsloth с использованием подхода Unsloth Dynamic 2.0. Модель разработана командой Qwen и предназначена для генерации текста, программирования, профессиональных и исследовательских задач, а также для долгих многошаговых агентских сценариев. README указывает совместимость исходных артефактов с Transformers, vLLM, SGLang и TokenSpeed. Это причинная языковая модель с архитектурой Mixture of Experts: 2,4 трлн параметров всего, из которых активируется 95 млрд. Она содержит 92 слоя, скрытое измерение 8192 и 512 экспертов, из которых для обработки токена маршрутизируются 10 экспертов и один общий. Архитектура сочетает Gated DeltaNet и Gated Attention, а также поддерживает Multi-Token Prediction. Нативная длина контекста составляет 262 144 токена и может быть расширена примерно до 1 010 000 токенов. Управление глубиной рассуждений выполняется параметром reasoning_effort, а контекст рассуждений из предыдущих сообщений может сохраняться через preserve_thinking. Сильные стороны модели — высокий заявленный уровень для сложного кодирования, профессиональной работы, исследований, планирования и автономного выполнения задач, а также большой контекст и возможность настройки рассуждений. Ограничения включают крайне большой общий размер модели и соответствующие требования к памяти и инфраструктуре; конкретные требования зависят от выбранного GGUF-кванта и конфигурации запуска. В README не указаны поддерживаемые языки и точные параметры доступных квантований. Лицензия обозначена как qwen3.8-max; условия следует уточнять в файле LICENSE.

Nemotron-Cascade-2-30B-A3B GGUF — текстовая генеративная модель NVIDIA, созданная на основе Nemotron-3-Nano-30B-A3B-Base и опубликованная в формате GGUF. Файлы модели сгенерированы с помощью llama.cpp. Модель относится к архитектуре Mixture-of-Experts: общий размер составляет 30 млрд параметров, из которых при обработке активируются 3 млрд. В карточке указан английский язык и лицензия NVIDIA Open Model License. Модель предназначена для общего текстового общения, сложного рассуждения, математических задач, программирования и агентских сценариев. Она поддерживает два режима работы: thinking для развёрнутого рассуждения и instruct для обычного выполнения инструкций без режима рассуждения. Заявлены особенно сильные результаты в математике и алгоритмическом программировании: модель получила золотые результаты на IMO 2025 и IOI 2025, а также высокие показатели на AIME, HMMT, LiveCodeBench и других тестах. К сильным сторонам относятся сочетание крупной ёмкости модели с относительно малым числом активных параметров, развитые способности к рассуждению, решению математических задач, написанию кода и использованию в агентских системах. Ограничения включают отсутствие в предоставленной карточке сведений о длине контекста, точных характеристиках квантования GGUF, поддерживаемых дополнительных языках и требованиях к аппаратным ресурсам. Использование регулируется NVIDIA Open Model License; условия лицензии следует проверить по ссылке, указанной в карточке.

Qwopus3.8-27B-Flash — дообученная модель, опубликованная Jackrong на базе Qwen3.8-27B. Она предназначена для практических агентских сценариев, в которых модель многократно взаимодействует с инструментами: анализирует данные, генерирует и редактирует код, вызывает функции, наблюдает результаты и выполняет итеративные задачи. Модель ориентирована на снижение задержки, вычислительных затрат и склонности к избыточно длинным рассуждениям при сохранении широких общих возможностей. Модель имеет размер 27B параметров и распространяется в формате GGUF для локального запуска, в том числе через llama.cpp. Заявлена поддержка текстово-визуальных задач и обработки изображений, а также генерации текста, рассуждений, программного кода, tool use и function calling. В метаданных указаны английский, китайский, испанский, русский и японский языки. Контекстное окно и точные архитектурные характеристики не указаны. Обучение включало качественную выборку данных supervised fine-tuning и усиление рассуждений с использованием NVIDIA NeMo-RL и GSPO. К сильным сторонам относятся более быстрая генерация, заявленные 80,7% принятия токенов MTP, снижение неэффективных рассуждений и пригодность для длительных агентских цепочек. При этом README указывает на компромисс в качестве: результат на смешанном наборе MMLU-Pro ниже, чем у базовой модели. Известно ограничение в виде возможных ошибок отступов в Python в отдельных задачах программирования. Модель распространяется по лицензии Apache-2.0.

GLM-4.5-GGUF — это GGUF-версия фундаментальной языковой модели GLM-4.5, разработанной Z.ai. Модель предназначена для создания интеллектуальных агентов и объединяет возможности рассуждения, программирования и взаимодействия с инструментами. Она поддерживает генерацию текста и рассчитана прежде всего на англоязычные и китайскоязычные сценарии. GLM-4.5 — гибридная reasoning-модель с двумя режимами работы: thinking mode для сложных рассуждений и использования инструментов и non-thinking mode для быстрых ответов. В модели 355 млрд общих параметров, из которых активно используется 32 млрд; архитектура построена с применением mixture-of-experts. Контекстное окно, дополнительные модальности и точные характеристики GGUF-квантизации в README не указаны. К сильным сторонам относятся сочетание рассуждений, программирования и агентных функций, а также возможность коммерческого использования и доработки. Ограничения включают высокие требования к вычислительным ресурсам исходной модели и отсутствие в предоставленных данных подробностей о конкретной GGUF-квантизации и совместимости с оборудованием. Модель распространяется под лицензией MIT.

GLM-4.7-GGUF — это GGUF-версия языковой модели GLM-4.7, разработанная организацией Z.ai и опубликованная Unsloth. Модель предназначена прежде всего для генерации текста, программирования и агентских сценариев с использованием инструментов. Она ориентирована на multilingual coding, задачи в терминале, веб-навигацию, математическое и общее рассуждение, создание веб-интерфейсов и презентаций, а также на диалоги, творческое письмо и ролевые сценарии. В карточке указаны поддерживаемые языки English и Chinese, библиотека Transformers и базовая модель zai-org/GLM-4.7. Заявлены режимы thinking before acting, interleaved thinking и preserved thinking, однако сведения о размере модели, точной архитектуре, длине контекста и доступных модальностях отсутствуют. По приведённым результатам модель показывает сильные стороны в кодировании, использовании инструментов, математике и рассуждении; среди ограничений следует учитывать, что показатели зависят от конкретных бенчмарков и не гарантируют аналогичное качество в каждом прикладном сценарии. Модель распространяется по лицензии MIT. README не содержит подробностей о требованиях к оборудованию, конкретных квантизациях GGUF или полной процедуре локального запуска.

Dolphin 2.9 Mixtral 8x22B — диалоговая модель Cognitive Computations, подготовленная Eric Hartford, Lucas Atkins и Fernando Fernandes на основе mistral-community/Mixtral-8x22B-v0.1. Это дообученная модель с разреженной архитектурой Mixtral MoE, представленная в формате safetensors и предназначенная для генерации текста по инструкциям и ведения диалогов. Модель подходит для ответов на вопросы, программирования, математических задач и сценариев с вызовом функций; README также отмечает начальные агентные возможности. Она обучалась в формате ChatML, а полное дообучение проводилось на последовательностях длиной 4 тыс. токенов. Для базовой модели заявлен контекст до 64 тыс. токенов. В метаданных указан английский язык. Dolphin описана авторами как неконтролируемая модель, которая может охотно выполнять в том числе неэтичные запросы; перед предоставлением пользователям сервиса авторы рекомендуют добавить собственный слой ограничений. В данных обучения обнаружена проблема, из-за которой модель может излишне упоминать системное сообщение; README предлагает явно просить её этого не делать. Лицензия Apache-2.0 допускает коммерческое использование при соблюдении её условий.

MiniCPM5-2B-GGUF — это GGUF-сборка плотной каузальной языковой модели MiniCPM5-2B, разработанной OpenBMB и опубликованной пользователем prithivMLmods. Модель предназначена для локальных ассистентов, генерации текста, программирования, coding-agent задач, использования инструментов и развёртывания на устройствах с ограниченными ресурсами. Она поддерживает запуск через llama.cpp и совместимые приложения, включая Ollama и LM Studio. Модель содержит около 2,52 млрд параметров и использует архитектуру LlamaForCausalLM с 42 слоями и Grouped-Query Attention: 16 Q-голов и 2 KV-головы. Заявлена длина контекста до 131 072 токенов, а указанным языком является английский. Доступны варианты GGUF с точностями от F32 и BF16/F16 до квантований Q3–Q8, размером примерно от 1,19 до 10,1 ГБ, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Сильными сторонами заявлены рассуждения, математика, программирование, работа с длинным контекстом, вызов инструментов и агентные сценарии; модель обучалась с использованием специализированного дообучения и reinforcement learning. Ограничения включают компактный размер по сравнению с крупными LLM, заявленную языковую поддержку только английского и зависимость характеристик от выбранного уровня квантования. Модель распространяется по лицензии Apache-2.0.

Ternary-Bonsai-27B-GGUF — набор GGUF-квантизаций модели Ternary-Bonsai-27B, подготовленный пользователем vcruz305 на основе официального F16-релиза prism-ml. В основе лежит backbone Qwen3.6-27B с гибридным вниманием, контекстом до 262 тысяч токенов и поддержкой vision. Модель предназначена для генерации текста и кода, диалоговых сценариев, программирования, рассуждений и отладки через llama.cpp. Репозиторий включает варианты Q3_K_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 13,3 до 28,6 ГБ. Для большинства вариантов использована importance matrix, полученная на корпусе объёмом 63 КБ с примерами программирования, отладки и рассуждений; Q8_0 создан без неё. Доступны два файла mmproj для работы с изображениями. Производительность зависит от пропускной способности памяти и оборудования: на GB10 заявлены скорости примерно от 7,8 до 14 токенов в секунду. Сильная сторона модели — широкий диапазон квантизаций для систем с 12–32 ГБ памяти, а также сочетание генерации кода, рассуждений и визуального ввода. При объёме памяти до 8 ГБ автор рекомендует использовать официальные QAT-кванты prism-ml, поскольку они сохраняют более высокое качество. Совместное использование с DSpark drafter протестировано, но для этих квантизаций не рекомендуется: коэффициент принятия черновых токенов составил около 54%, поэтому прирост производительности может отсутствовать. Модель распространяется по лицензии Apache-2.0 и рассчитана на использование с llama.cpp.

JOSIE-4B-Thinking — дообученная модель языкового моделирования, разработанная Гёкденизом Гюльмезом на основе Goekdeniz-Guelmez/Qwen3-4B-Instruct-2507-gabliterated. Это плотная авторегрессионная модель семейства Qwen3 примерно с 3,7 млрд параметров; она предназначена для многошаговых рассуждений, математики, STEM-задач, творческого письма и анализа длинных документов. В README заявлена длина контекста 65 536 токенов, а метаданные указывают 262 144 токена. Поддерживаются английский, испанский, французский, португальский, итальянский, арабский, японский, корейский, индонезийский, русский, вьетнамский, немецкий и тайский языки. Модель обучена на более чем 600 млн токенов с использованием дистиллированных трасс рассуждений и примеров расширения ответов. Разработчик описывает её стиль как прямой и подробный, с упором на связные рассуждения и без встроенной фильтрации контента. По заявлению карточки, модель выпущена под лицензией MIT. Она требует ресурсов для запуска модели на 4 млрд параметров; критически важные ответы следует проверять, а для пользовательских приложений с открытым содержанием может потребоваться отдельная модерация.

NeoHorse-1-9B-GGUF — это набор GGUF-квантизованных файлов модели NeoHorse-1-9B, разработанной TokenRhythm и распространяемой в этой сборке сообществом ngquocvinh. Модель представляет собой причинную языковую модель примерно на 9 млрд параметров, созданную на основе Qwen3.5-9B и предназначенную для текстовых агентских систем, использования инструментов, программирования, рассуждений и выполнения инструкций. В сборке применена библиотека llama.cpp и поддерживается текстовая генерация. Модель рассчитана на локальный запуск с разными уровнями квантизации. Размер файлов варьируется примерно от 1,97 до 9,53 ГБ; Q4_K_M указан как сбалансированный вариант, а Q5_K_M, Q6_K и Q8_0 обеспечивают большую точность при наличии достаточного объёма памяти. Согласно данным исходной карточки, базовая модель поддерживает контекст до 262 144 токенов с возможностью расширения до 1 010 000 токенов, однако эти характеристики относятся к upstream-модели и могут зависеть от используемой конфигурации запуска. Сильными сторонами являются поддержка агентских сценариев, tool use, программирования и рассуждений, а также возможность локального запуска на совместимом оборудовании. Ограничения включают отсутствие vision-весов и поддержку только текста, а также потенциальное снижение качества на низких уровнях квантизации. Приведённые результаты оценки качества относятся к совпадению следующего токена с BF16-версией, а не напрямую к качеству решения задач; показатели исходной модели не являются результатами тестирования этих GGUF-файлов. Лицензия — Apache-2.0.

Qwen3.8-27B-Imatrix-Mtp-1m — это сборка модели Qwen3.8-27B в формате GGUF, подготовленная Brian6145 на основе официальных весов Qwen Team. Модель ориентирована на следование инструкциям, программирование, отладку и устранение неисправностей, а также на агентские сценарии и задачи с длинными последовательностями. В карточке указаны английский и китайский языки и модальность image-text-to-text. Модель имеет размер 27B параметров и поддерживает контекст до 1 000 000 токенов благодаря расширению RoPE по официальной схеме YaRN; исходный предел составлял 262 144 токена. В каждый файл встроена рабочая Multi-Token Prediction head, совместимая со speculative decoding в llama.cpp и LM Studio. Доступны варианты F16, Q8_0, Q6_K, Q5_K_M, Q4_K_M с imatrix и Q3_K_M. MTP может заметно ускорять генерацию, особенно при длинном контексте. Для запуска требуется сборка llama.cpp с поддержкой draft-mtp либо LM Studio 2.28.2 или совместимая версия. Контекст в 1M токенов требует значительного объёма VRAM; рекомендуется использовать квантованный KV-кэш. Статическое масштабирование YaRN может немного ухудшать качество на коротких текстах, поэтому для таких задач предпочтительна официальная версия модели. Распространение разрешено по лицензии Apache-2.0.

Zrald/Zrald-AI-model-quant-qwen-3.8-27b — набор GGUF-квантований Qwen3.8-27B, опубликованный Zrald для локального запуска через llama.cpp. Это плотная модель на 27 млрд параметров, дообученная на базе Qwen/Qwen3.8-27B; репозиторий предлагает три варианта с разным балансом размера, скорости и сохранения качества. README описывает применение для диалогов, программирования, рассуждений и инструктивных задач. Варианты занимают от 10,18 до 17,08 ГиБ; заявлены сценарии запуска на видеокартах с 12, 16 и 24 ГБ памяти, а для старшего варианта — контекст до 32 тысяч токенов. Автор сообщает о тестировании на AMD Instinct MI300X и совместимости с llama.cpp. Лицензия — Apache-2.0. Это текстовая модель генерации; мультимодальные функции базовой модели в карточке этого репозитория не заявлены.

DeepSeek-V4.1-Flash — мультимодальная модель DeepSeek для диалогов, рассуждений и агентных задач. Она принимает изображения и текст и авторегрессионно генерирует текст. По README, модель обучена с нуля и использует архитектуру Causal Encoder-Decoder с 40 слоями и Mixture-of-Experts; в ней 552 млрд параметров backbone, а при обработке токенов активируется 8 млрд параметров на этапе prefill и 16 млрд при генерации. Модель поддерживает контекст до одного миллиона токенов и управляемый уровень усилий рассуждения от 1 до 100. Среди заявленных архитектурных решений — сжатие KV-кэша, разреженное внимание, условная память Engram и спекулятивное декодирование. Модель ориентирована на сценарии с длинным контекстом и агентным выполнением задач, включая работу с кодом и визуальными данными. Метаданные указывают форматы safetensors FP8 и библиотеку Transformers; лицензия — MIT. README отмечает, что для релиза не предоставлен Jinja-шаблон чата, а для запуска локально предлагается обратиться к инструкциям в папке inference.

SKT AI LABS представила SKT-NRS/NRS_QWEN_MYTHOS_1M — дообученную модель на архитектуре Qwen3.5-9B для диалогов, рассуждений и генерации текста. Карточка заявляет контекст до 1 048 576 токенов с масштабированием YaRN и настройку на примерах по программированию, математике и логике. Метаданные также указывают поддержку изображений в базовой мультимодальной архитектуре Qwen, хотя описание модели сосредоточено на текстовых сценариях. Модель предназначена для анализа длинных документов и кодовых баз, пошаговых рассуждений, программирования и вызова инструментов, включая Python и веб-поиск. Заявлены диалоговый режим и оптимизация инференса, однако сведения о скорости и стократном повышении качества являются утверждениями авторов без приведённых сравнительных результатов. Для обработки вывода могут потребоваться специальные меры из-за блоков <think>; критические ответы следует проверять из-за риска галлюцинаций. Лицензия в предоставленных данных не указана.

Omni-Reasoner3-Merged — объединение предварительно обученных языковых моделей, созданное с помощью mergekit. В основе объединения лежит prithivMLmods/Llama-Deepsync-3B; также включены модели Codepy-Deepthink-3B, Llama-Doctor-3.2-3B-Instruct, Llama-Magpie-3.2-3B-Instruct и Llama-Sentient-3.2-3B-Instruct. Использован метод Model Stock, веса сохранены в формате bfloat16. Модель предназначена для генерации текста и диалоговых сценариев; среди объединённых моделей есть варианты для медицинских диалогов, программирования и инструктивных ответов. Архитектура — плотная LlamaForCausalLM, размер — 3,2 млрд параметров, нативное контекстное окно — 131 072 токена. Поддерживает текстовый ввод и выдаёт текст. Лицензия и конкретные ограничения в предоставленных данных не описаны. Результаты объединения могут различаться по качеству в зависимости от задачи; профиль одной из базовых моделей указывает на медицинские диалоги, но это не гарантирует точность медицинских ответов.

visionOCR-3B-061125 — дообученная PrithivMLmods мультимодальная модель на архитектуре Qwen2.5-VL-3B для распознавания текста и анализа документов по изображениям. Она извлекает текст и структурированные данные из счетов, чеков, форм, научных статей и сканов, отвечает на вопросы по изображениям и преобразует математические выражения в LaTeX. Модель содержит 3,1 млрд параметров, принимает изображения с текстовыми инструкциями и выдаёт текст; заявлена поддержка контекста до 128 000 токенов. В карточке также заявлены анализ видео, визуально управляемая автоматизация устройств и работа с несколькими языками. Модель ориентирована на OCR документов, извлечение данных и визуальные вопросы-ответы, включая плотные макеты, таблицы и диаграммы. Карточка сообщает о конкурентных результатах на DocVQA, MathVista, RealWorldQA и MTVQA, но не приводит численных оценок. Лицензия — Apache-2.0. Качество может снижаться на изображениях низкого качества или с перекрытиями, а для редких языков и письменностей точность непостоянна. Длительная обработка видео требует значительных ресурсов; возможны галлюцинации и ошибки при неудачных настройках визуальных токенов.

Dolphin3.0-R1-Mistral-24B-GGUF — это квантизированная версия языковой модели Dolphin3.0-R1-Mistral-24B, разработанной cognitivecomputations и подготовленной в формате GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста на английском языке и запуска локально через llama.cpp, LM Studio и другие совместимые приложения. Модель основана на архитектуре Mistral и содержит 24 миллиарда параметров. Она обучалась на смесях данных для инструкционного следования, рассуждений, математики, программирования, function calling и агентных сценариев, включая наборы Dolphin, OpenCoder, Orca, Hermes, NuminaMath, Tulu и CodeFeedback. Доступны варианты квантизации от Q4 до Q8 и полноточный вариант f32; размер файлов варьируется примерно от 13,5 до 94,3 ГБ. Квантизация уменьшает требования к памяти, сохраняя приемлемое качество, однако более компактные варианты могут уступать исходной модели по точности. Сильными сторонами являются поддержка локального запуска, широкий выбор уровней квантизации и ориентация на рассуждения, математические задачи, код и выполнение инструкций. README не содержит данных о длине контекста, мультимодальности, подробных результатах оценки, системных требованиях или лицензии, поэтому эти характеристики нельзя достоверно определить.

Devstral-Small-2-24B-Instruct-2512-OptiQ-4bit — это локальная 4-битная MLX-квантизация модели Devstral-Small-2-24B-Instruct-2512 от Mistral, созданная сообществом mlx-community с использованием инструментария mlx-optiq. Модель относится к семейству Mistral и предназначена для генерации текста, программирования, агентских сценариев и вызова инструментов. Модель имеет размер 24 млрд параметров и использует смешанную точность: 102 слоя работают в 4-битном формате, а 179 наиболее чувствительных слоёв — в 8-битном. Средняя эффективная разрядность составляет 5,01 бит на вес, размер группы — 64, объём на диске — около 15,4 ГБ. Квантизация оптимизирована для Apple Silicon и поддерживается библиотеками MLX и mlx-lm; для многошагового использования инструментов рекомендуется сервер mlx-optiq. Языки, точный размер контекстного окна и дополнительные модальности в README не указаны. Сильными сторонами являются качество работы с кодом, инструкциями, вызовами инструментов и длинноконтекстным многошаговым поиском. В сравнении с равномерной 4-битной квантизацией модель показала более высокий результат на 5 из 6 метрик, включая BFCL 89,5%, HumanEval 83,5% и HashHop 62,0%; итоговый Capability Score составил 78,60. Ограничения связаны с зависимостью от экосистемы MLX и Apple Silicon, увеличенным по сравнению с обычной 4-битной версией размером и возможными потерями качества из-за квантизации. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Kimi-K2-Base — базовая языковая модель, разработанная Moonshot AI. Это фундаментальная версия семейства Kimi K2, предназначенная для исследователей и разработчиков, которым нужен контроль над дообучением и созданием специализированных решений. Модель ориентирована на задачи работы с текстом, рассуждения, программирования, использования инструментов и построения автономных агентных систем. Модель использует архитектуру Mixture-of-Experts (MoE) с 1 трлн общих параметров и 32 млрд активируемых параметров. Она содержит 61 слой, включая один плотный слой, 384 эксперта, из которых для каждого токена выбираются 8, один общий эксперт, 64 attention-головы, скрытую размерность внимания 7168, размерность MoE-эксперта 2048 и словарь из 160 тысяч токенов. Используются механизм внимания MLA и функция активации SwiGLU; длина контекста составляет 128K токенов. Модель предварительно обучена на 15,5 трлн токенов с использованием оптимизатора MuonClip. README не указывает поддерживаемые языки и мультимодальные возможности, поэтому модель следует рассматривать как текстовую без подтверждённой мультимодальности. В отличие от готовой инструкционной версии, Base требует дополнительной настройки под конкретные сценарии и не предназначена прежде всего для непосредственного использования в чат-интерфейсе. Лицензия указана как modified MIT.

Qwen3.5-9B-Qworus-V2 — гибридная языковая модель для генерации текста, разработанная на основе объединения моделей empero-ai/Qwen3.8-9B-Distill и ornith-ai/Ornith-1.5-9B. Модель создана методом 50/50 DARE-TIES merge и предназначена для задач программирования, рассуждений, вызова инструментов, планирования, проектирования и ответов на вопросы. Модель доступна через Transformers и ориентирована на text generation. Указан размер 9B; поддерживаются форматы Safetensors и GGUF. Для GGUF предоставлены варианты квантования Q4_K_L для систем с ограниченными ресурсами и Q6_K_L для более высокой точности. В этих вариантах слои токенов и вывода повышены до Q8_0, а тензоры ssm_* используют BF16 или Q8_0 для повышения точности на длинных контекстах. Для квантований imatrix обучена на смеси данных, включающей код, бизнес-тексты, математику и Wikipedia. Модель не является полностью uncensored по умолчанию, поскольку обе исходные модели не были uncensored. В README не указаны поддерживаемые языки, максимальная длина контекста и лицензия, поэтому эти характеристики нельзя определить по имеющимся данным.

Ziya-Reader-13B-v1.0 是 IDEA-CCNL 团队开发的中文知识问答模型，基于 13B 参数的 Llama 2，并在通用数据和检索问答数据上微调。它采用 Llama 自回归 Transformer 架构，使用位置插值扩展上下窗口；README указывает 8k токенов, тогда как метаданные Hugging Face указывают нативный контекст 4096 токенов. Модель отвечает на вопросы по одному или нескольким предоставленным документам, поддерживает поиск релевантных документов и суммаризацию длинных текстов, а также общее общение в формате вопрос–ответ. В карточке описана устойчивость к изменению порядка документов и приведены оценки на китайских наборах LongBench. Предназначена прежде всего для китайских сценариев баз знаний, retrieval QA и клиентской поддержки, в том числе в праве, финансах и медицине. Модель принимает текст и генерирует текст. Репозиторий содержит веса PyTorch; указанная лицензия — GPL-3.0. Результаты зависят от качества и полноты переданных документов; заявленные оценки основаны на тестах разработчиков и не гарантируют качество в конкретной предметной области.

GLM-5 — большая языковая модель семейства GLM, разработанная zai-org для сложных задач разработки систем и длительных агентных сценариев. Модель предназначена для генерации текста, рассуждений, программирования и взаимодействия с инструментами в диалогах. В README заявлена версия на 744 млрд параметров, из которых 40 млрд активны; репозиторий Hugging Face содержит 30,4 млрд параметров. Эти данные расходятся, поэтому размер конкретной опубликованной сборки нельзя однозначно определить. Архитектура в метаданных обозначена как glm_moe_dsa, формат весов — safetensors, а нативная длина контекста составляет 202 752 токена. Поддерживаются английский и китайский языки. README сообщает об интеграции DeepSeek Sparse Attention для снижения стоимости развёртывания при сохранении длинного контекста, а также о сильных результатах в рассуждениях, программировании и агентных задачах. Модель можно запускать через Transformers и ряд других фреймворков; для использования инструментов описана настройка сервера vLLM. Лицензия — MIT. Указанные в карточке результаты бенчмарков являются заявлениями разработчика; фактическая производительность зависит от сценария и конфигурации.

Whittle-Next-27B-A3B-GGUF — это исследовательская GGUF-квантизация модели logic65/Whittle-Next-27B-A3B, разработанная David Aylward (logic65) совместно с Claude (Anthropic). Модель предназначена для запуска через llama.cpp и совместима с LM Studio, Jan, Ollama и llama-swap при наличии актуальной версии llama.cpp. Лицензия — Apache-2.0. Модель использует архитектуру Qwen4-Next в формате qwen4_exp и представляет собой смесь экспертов (MoE) с 27 млрд параметров всего и примерно 3 млрд активных параметров на токен. В ней применяются гиперсвязи остаточных потоков, хешированная n-gram-память объёмом 2 млрд строк, поуровневые эмбеддинги и дистилляция из Qwen3.8-27B. Поддерживаются текстовая генерация, диалоговые сценарии, рассуждения, математика и программирование; заявлены английский, китайский и многоязычный режимы. Доступны варианты квантизации от Q3_K_M до Q8_0 размером примерно от 13,3 до 29,3 ГБ. В README указано, что модель рассчитана на контекст до 16 384 токенов при рекомендованной настройке запуска. Сильными сторонами являются низкое число активных параметров, возможность запуска на стандартном llama.cpp без патчей, поддержка режима пошагового рассуждения и сравнительно высокая точность на математических задачах и проверке кода для исследовательского прототипа. Модель рекомендуется использовать с включённым thinking-режимом, сэмплированием и бюджетом не менее 4096 токенов для программирования. Это research preview, а не завершённая универсальная модель: ответы по коду могут быть длинными, производительность зависит от квантизации и размещения памяти, а при жадной генерации возможны зацикливания. Для полноценной оценки следует учитывать ограничения и измерения из базовой карточки модели.

unsloth/cogito-v2-preview-llama-405B-GGUF — GGUF-версия большой языковой модели Cogito v2 preview 405B, разработанной DeepCogito и подготовленной Unsloth. Это инструкционно дообученная генеративная модель для коммерческого использования, ориентированная на программирование, задачи STEM, выполнение инструкций, общую полезность и вызов инструментов. Модель является гибридной reasoning-моделью: она может отвечать напрямую в стандартном режиме или выполнять дополнительное саморефлексивное рассуждение перед ответом. Для обучения использовалась стратегия Iterated Distillation and Amplification (IDA). Модель обучена более чем на 30 языках и поддерживает контекст длиной до 128 тысяч токенов. В README заявлены повышенные возможности в многоязычных задачах, программировании и tool calling по сравнению с сопоставимыми по размеру моделями, а также превосходство на ряде отраслевых бенчмарков, однако конкретные числовые результаты для GGUF-версии не приведены. Вариант GGUF предназначен для использования с совместимыми инструментами локального запуска, включая llama.cpp; для корректного применения шаблона чата в llama.cpp рекомендуется параметр --jinja. Для включения расширенного рассуждения требуется поддержка параметра enable_thinking=True в chat template либо специальная системная инструкция и предварительная вставка тега <think>. К ограничениям относятся очень большой размер модели и, как следствие, высокие требования к памяти и вычислительным ресурсам; точные требования зависят от используемой квантизации, но её параметры в README не указаны. Модель распространяется по лицензии llama3.1, обозначенной как открытая лицензия с разрешением коммерческого использования.

casperhansen/deepseek-r1-distill-llama-70b-awq — это 4-битная AWQ-квантизованная версия DeepSeek-R1-Distill-Llama-70B, опубликованная пользователем casperhansen на Hugging Face. Исходную модель разработала DeepSeek-AI: она создана на базе Llama-3.3-70B-Instruct и дообучена на примерах рассуждений, сгенерированных DeepSeek-R1. Модель предназначена для текстовой генерации, диалогов и решения задач, особенно связанных с математикой, программированием и многошаговым рассуждением. Архитектура — LlamaForCausalLM с примерно 71 млрд параметров, 80 слоями, 64 attention heads и 8 key-value heads. Репозиторий содержит веса в формате Safetensors с 4-битной AWQ-квантизацией; конфигурация указывает контекст до 131072 токенов и вычисления в bfloat16. Это текстовая, а не мультимодальная модель. Квантизация уменьшает требования к памяти и делает локальное развертывание практичнее, но может приводить к некоторой потере качества по сравнению с исходными весами; для полноценного запуска всё равно требуются значительные вычислительные ресурсы. Исходная DeepSeek-R1-Distill-Llama-70B показывает сильные результаты в математике, кодировании и задачах рассуждения, однако официальные показатели относятся к исходной, а не обязательно к данной AWQ-версии. Репозиторий производной модели указывает лицензию MIT. При этом исходная модель базируется на Llama-3.3-70B-Instruct, для которой также действуют условия лицензии Llama 3.3.

Nex-N2.5-Pro — мультимодальная агентная модель из семейства Nex-N2.5, разработанная компанией Nex-AGI. Она предназначена для выполнения долгих многоэтапных задач в реальных средах, включая работу с компьютером и браузером, автономный запуск и тестирование программ, научные исследования, работу со знаниями и сложные продуктивные сценарии. Модель продолжает мультимодальную основу Nex-N2 и ориентирована на компьютерное использование, веб-навигацию и визуально обоснованные действия. Она способна воспринимать визуальную информацию как интерфейс взаимодействия со средой, проверять результаты своих действий и корректировать дальнейшее выполнение задачи. В README не указаны точный размер модели, архитектура, длина контекста и перечень поддерживаемых языков. Заявлены результаты в задачах программирования, агентных рабочих процессах, компьютерном использовании и мультимодальном понимании; среди приведённых оценок Pro показывает 82,7 балла в Terminal-Bench 2.1, 61,2 в SWE-Bench Pro и 55,8 в DeepSWE v1.1. Сильными сторонами модели являются ориентация на длительные автономные сценарии, работа с визуальной обратной связью, браузерами и компьютерами, а также способность к самокоррекции и выполнению программных задач. Ограничения, требования к аппаратным ресурсам и практические особенности развёртывания в README не описаны. Для модели указана лицензия Apache-2.0; веса заявлены как открытые, а также доступен hosted-доступ через OpenRouter.