II.11Кибербезопасность и приватность

Карточка модели JaehyeokLee/preliminary_clustering_gist_checkpoint_epoch_1_step_150 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Qwen2.5-14B-Coder-Merge — объединённая языковая модель на архитектуре Qwen2, созданная сообществом mergekit-community методом Model Stock на базе Qwen/Qwen2.5-14B. В объединение вошли Qwen2.5-Coder-14B, Qwen2.5-Coder-14B-Instruct и Rombos-Coder-V2.5-Qwen-14b. Модель содержит 14 млрд параметров, работает через Transformers и распространяется в формате safetensors с весами bfloat16; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации кода и диалогового взаимодействия по задачам программирования. Её можно использовать для написания, анализа и исправления кода, а также для общения с инструментами через соответствующий интерфейс. Вход и выход представлены текстом; конкретный набор поддерживаемых естественных языков в предоставленных данных не описан. Лицензия в предоставленных источниках не указана. Поскольку модель получена слиянием нескольких чекпойнтов, её поведение и качество могут отличаться от исходных моделей; README не приводит результатов оценки или подробных ограничений.

Qwen2.5-Coder-0.5B-Instruct-GGUF — это набор GGUF-квантизированных версий инструкционной модели Qwen2.5-Coder-0.5B-Instruct. Исходную модель разработала команда Qwen, а квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и кода, диалогового взаимодействия и работы в локальных приложениях, поддерживающих llama.cpp, включая LM Studio. Модель содержит 0,5 млрд параметров и доступна в вариантах от F16 до низкобитных квантов Q8_0, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 0,34 до 0,99 ГБ. Указан английский язык; мультимодальность не заявлена. В README не указаны архитектура исходной модели, размер контекстного окна и полный перечень поддерживаемых языков. К сильным сторонам относятся небольшой размер, возможность локального запуска на устройствах с ограниченными ресурсами и несколько вариантов компромисса между качеством, скоростью и потреблением памяти. Более высокое качество ожидается у F16, Q8_0 и Q6, а низкобитные варианты подходят для систем с небольшим объёмом оперативной памяти, но могут заметнее терять качество. Версии Q4_0_8_8, Q4_0_4_8 и Q4_0_4_4 оптимизированы для ARM и требуют соответствующих аппаратных возможностей; некоторые из них не рекомендуются для Mac и Windows. Модель распространяется под лицензией Apache-2.0.

Domeoneyyddkk/qwen2.5-coder-merged — слитая языковая модель на архитектуре Qwen2, созданная методом DARE TIES с помощью mergekit на основе Qwen2.5-Coder-7B-Instruct и Qwen2.5-7B-Instruct. Модель содержит 7,1 млрд параметров, рассчитана на диалоговую генерацию текста и кода; доступна в формате safetensors для библиотеки Transformers и поддерживает контекст до 32 768 токенов. Модель подходит для генерации и объяснения кода, помощи в программировании и обычных диалоговых задач. В конфигурации слияния использованы веса 0,65 для Qwen2.5-Coder-7B-Instruct и 0,35 для Qwen2.5-7B-Instruct. README и метаданные не приводят сведений о лицензии, поэтому условия использования следует сверить с лицензиями исходных моделей и правилами публикации слитых весов.

ZeroXClem-Qwen3-4B-NexusPrime — языковая модель, созданная командой ZeroXClem с помощью слияния нескольких дообученных моделей Qwen3-4B методом Model Stock в MergeKit. Это плотная авторегрессионная модель на 3,7 млрд параметров для генерации текста, диалога и технических задач; заявленное максимальное окно контекста — 40 960 токенов. Она объединяет направления программирования и пошаговых рассуждений, поэтому предназначена для генерации и объяснения кода, решения математических и логических задач, структурированных ответов и технической документации. В README заявлена многоязычная поддержка, включая более 20 языков у одного из компонентов слияния; метаданные карточки указывают английский язык. Модель опубликована в формате safetensors и работает с библиотекой Transformers; README рекомендует стандартный шаблон чата Qwen3. Лицензия — Apache-2.0. Карточка заявляет широкие возможности, однако не приводит независимых оценок качества; модель описана как неконтролируемая и может выдавать нежелательный контент, поэтому для чувствительных сценариев требуется проверка результатов.

Tooony133/Qwen-3.6-27B-ChonkyCat — это объединённая с базовыми весами LoRA-адаптера версия мультимодальной модели Qwen3.6-27B. В README она описана как причинная языковая модель с визуальным энкодером, предназначенная в том числе для агентного программирования, работы с репозиториями и вызова инструментов. Модель содержит 27 млрд параметров и поддерживает контекст до 262 144 токенов, расширяемый до 1 010 000 токенов. Модель принимает текст и изображения и генерирует текст. README отмечает улучшения в сценариях разработки интерфейсов и рассуждения над кодовыми базами; метаданные также указывают поддержку диалогового режима и изображений. Для запуска указана совместимость с Transformers и движками vLLM, SGLang и KTransformers. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0.

Akahsizrr выпустил объединённый чекпойнт Qwen3.8-27B, дообученный для программирования, рассуждений и вызова инструментов. Веса базовой модели Qwen/Qwen3.8-27B объединены с тремя LoRA-адаптерами; модель плотная, содержит 22,3 млрд параметров и распространяется в формате safetensors для Transformers. Для запуска в README приведён пример с vLLM в формате bfloat16. Модель предназначена для генерации кода и решения задач программирования в диалоге, в том числе с использованием инструментов. В README приведён результат 75,4% на LiveCodeBench v6 для полного стека адаптеров и 76,0% для варианта с двумя адаптерами; эти показатели относятся к описанному тестовому запуску. Контекстная длина по метаданным — 262 144 токена. Лицензия — Apache-2.0.

Это квантованная модель Qwen3-Coder-30B-A3B-Instruct в формате GGUF, преобразованная пользователем n00b001 из исходной модели Qwen/Qwen3-Coder-30B-A3B-Instruct с помощью llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и ориентирована прежде всего на задачи программирования и взаимодействие с кодом; запуск предусмотрен через llama.cpp в консольном режиме или в формате сервера. В названии указаны конфигурация 30B-A3B и квантование Q4_K_M, однако README не содержит подробностей об архитектуре, фактическом размере файла, поддерживаемых языках и модальностях. Для серверного запуска приведён пример с контекстом 2048 токенов. Сильной стороной является возможность локального использования в совместимом окружении llama.cpp и более экономичное представление благодаря квантованию. Ограничения, включая возможные потери качества из-за квантования и требования к аппаратному обеспечению, в README не описаны. Указана лицензия Apache-2.0; ссылка на лицензию относится к исходной модели Qwen/Qwen3-Coder-30B-A3B-Instruct.

Qwen3-Coder-480B-A35B-Instruct в репозитории Unsloth — инструкционная MoE-модель для генерации кода и агентного программирования. Она поддерживает работу с инструментами через специальный формат вызовов функций и предназначена для сценариев, где нужно анализировать крупные репозитории, писать код и выполнять задачи с браузером. В карточке заявлены результаты среди открытых моделей, сопоставимые с Claude Sonnet на агентном программировании и работе с браузером. В README описана архитектура причинной языковой модели Qwen3 MoE: 480 млрд параметров всего, 35 млрд активируемых, 160 экспертов и 8 активируемых экспертов. Метаданные репозитория указывают 15,4 млрд параметров; контекст составляет 262 144 токена. Модель работает в режиме без рассуждений (non-thinking). Лицензия — Apache-2.0. Карточка Unsloth связывает репозиторий с Qwen/Qwen3-Coder-480B-A35B-Instruct как производной моделью; отдельные сведения о конкретных изменениях весов в README не приведены.

MLX-версия модели Qwen3-Coder-Next, разработанная сообществом mlx-community и конвертированная из Qwen/Qwen3-Coder-Next с использованием mlx-lm 0.30.5. Модель предназначена для генерации текста, в первую очередь в сценариях, связанных с программированием и работой с кодом, и рассчитана на запуск через экосистему MLX. Модель представлена в 5-битном формате квантования, что уменьшает требования к памяти по сравнению с полноразмерным представлением и может быть удобно для локального запуска на совместимом оборудовании Apple. В README не указаны точные архитектурные параметры, количество параметров, поддерживаемые языки, размер контекста или дополнительные модальности; заявлена только текстовая генерация. Для использования требуется библиотека mlx-lm и совместимое с MLX окружение. Сильными сторонами являются оптимизация под формат MLX и уменьшенный размер представления, однако 5-битное квантование может влиять на точность по сравнению с исходной моделью. Модель распространяется по лицензии Apache-2.0.

NexVeridian/Qwen3-Coder-Next-8bit — это конвертированная в формат MLX 8-битная версия модели Qwen/Qwen3-Coder-Next. Конвертацию выполнил пользователь или организация NexVeridian с использованием библиотеки mlx-lm версии 0.31.3; исходная модель разработана командой Qwen. Модель предназначена для генерации текста, включая сценарии работы с кодом, и может использоваться в приложениях на базе MLX через библиотеку mlx-lm. Модель поддерживает текстовую генерацию и применение chat template, если он доступен в токенизаторе. В README не указаны точные архитектура, количество параметров, размер контекста, поддерживаемые языки и дополнительные модальности. 8-битное представление ориентировано на более эффективное использование памяти и вычислений в совместимой среде MLX, однако конкретные характеристики качества и производительности не приведены. Модель распространяется по лицензии Apache-2.0.

techAInewb/Qwen3-Embedding-0.6B-INT8 — восьмибитная квантованная версия многоязычной модели эмбеддингов Qwen3-Embedding-0.6B от Qwen. Она преобразует текст в векторы размерности 1024 для семантического поиска, сравнения документов, кластеризации, классификации и систем RAG. Модель построена на архитектуре Qwen3; в метаданных указано 507,6 млн параметров и контекст до 32 768 токенов. README сообщает о поддержке 29 языков и совместимости с экосистемой Hugging Face Transformers. Квантование INT8 выполнено методом статического квантования Optimum Quanto с сохранением токенизатора. По данным README, размер модели снижен примерно на 37%, а качество эмбеддингов близко к исходной версии. Модель предназначена для текстовых входов и выдаёт векторные представления. Распространяется по лицензии Apache 2.0.

furiosa-ai/Qwen3-Embedding-8B — версия модели текстовых эмбеддингов Qwen3-Embedding-8B, подготовленная FuriosaAI для запуска с Furiosa-LLM и поставляемая с исполняемым пакетом FXB. Модель построена на плотной трансформерной архитектуре Qwen3, содержит 7,6 млрд параметров и принимает текст, преобразуя его в плотные векторные представления. Поддерживает контекст до 40 960 токенов и Matryoshka Representation Learning, позволяющее запрашивать эмбеддинги уменьшенной размерности. Модель предназначена для семантического поиска, извлечения релевантных материалов и сопоставления сходства текстов; она подходит для поиска по документам и построения векторных баз. В README указаны Furiosa-LLM и ускоритель FuriosaAI RNGD, при этом также заявлена совместимость с Sentence Transformers, vLLM и Transformers. Веса представлены в BF16 без квантизации. Лицензия — Apache 2.0.

mlx-community/Qwen3-Embedding-8B-4bit-DWQ — модель для получения признаковых представлений текста, задач sentence similarity и feature extraction. Она основана на Qwen/Qwen3-Embedding-8B и преобразована сообществом mlx-community в формат MLX с использованием mlx-lm 0.25.1. Модель имеет размер 8B параметров и 4-битное квантование DWQ, что предназначено для снижения требований к памяти при сохранении возможности локального запуска в экосистеме MLX. В карточке указана поддержка библиотек Transformers и Sentence Transformers, а также тип конвейера feature-extraction. Конкретные языки, размер контекста и перечень поддерживаемых модальностей не указаны; по представленным данным модель предназначена для работы с текстом. Лицензия модели — Apache-2.0. README не содержит подробных сведений о качестве, ограничениях, языковом покрытии и результатах тестирования, поэтому эти характеристики нельзя оценить точнее.

Seed-Coder-8B-Instruct — инструкционно настроенная языковая модель для кода, разработанная ByteDance Seed. Она предназначена для генерации и редактирования кода, рассуждений по программным задачам и помощи в разработке ПО по запросам пользователя. Модель построена на архитектуре Llama с причинным языковым моделированием и содержит 7,6 млрд параметров. Модель дообучена на основе Seed-Coder-8B-Base; при обучении использовались публичные и синтетические данные. Контекст составляет 32 768 токенов. Разработчик сообщает о результатах на наборах тестов для генерации кода, рассуждений и инженерии ПО; язык модели в материалах не перечислен. Модель распространяется по лицензии MIT.

Snowflake Arctic-Base — базовая языковая модель, разработанная командой Snowflake AI Research Team и предварительно обученная с нуля. Это гибридный трансформер с архитектурой dense-MoE: плотный блок на 10 млрд параметров сочетается с остаточным MoE-блоком из 128 экспертов; по README активно выбираются 17 млрд параметров на токен с помощью top-2 gating. В метаданных репозитория указано 11,1 млрд параметров, а нативное окно контекста составляет 4096 токенов. Модель принимает текст и генерирует текст, включая код. Она предназначена как базовая модель для генерации и продолжения текста, а также для создания собственных прикладных решений и последующего дообучения; версия Base не является instruct-вариантом. Для запуска README рекомендует Transformers версии 4.39 или выше с `trust_remote_code=True`; для инференса предлагается сервер с 8 ускорителями H100. Лицензия Apache-2.0 допускает использование в исследованиях, прототипах и продуктах.

speechless-zephyr-code-functionary-7b — экспериментальная модель, разработанная uukuguy в рамках проекта Mixture-of-Multi-LoRAs. Она создана на основе Mistral-7B-v0.1 с объединением LoRA-модулей, извлечённых из HuggingFaceH4/zephyr-7b-beta, meetkai/functionary-small-v2.2 и uukuguy/speechless-code-mistral-7b-v1.0. Для автоматической сборки модулей используется router Mixture-of-Multi-LoRAs с безградиентным подбором коэффициентов, в том числе для ранее не встречавшихся задач. Модель предназначена для генерации текста, программирования, работы с функциями и плагинами, а также для универсальных задач, где требуется сочетание диалоговых, кодовых и инструментальных навыков. В README заявлена поддержка английского языка и использование через Transformers; также доступны варианты GGUF с 4-, 5- и 8-битным квантованием для CPU и GPU-инференса. Размер базовой модели — около 7 миллиардов параметров. Размер контекста и полный перечень поддерживаемых модальностей не указаны; по описанию модель относится к текстовым. К сильным сторонам относятся сочетание навыков генерации кода, вызова функций и общего диалога, а также возможность адаптивного комбинирования LoRA-модулей. В опубликованной оценке средний результат LM-Evaluation-Harness составляет 62,93; показатели включают 64,71 на MMLU, 43,82 на GSM8K и 83,88 на HellaSwag. Ограничения связаны с экспериментальным характером подхода, отсутствием подробных данных о контексте, поведении на других языках и практической надёжности вызова функций. Модель распространяется по лицензии Apache-2.0.

Tiel-Coder-35B-A3B-MLX-oQ6e-MTP — это квантованная версия Ornith-1.5-35B-A3B от ornith-ai, подготовленная пользователем peculiar-ragdoll для запуска через MLX. Модель ориентирована прежде всего на агентное программирование, исправление реальных проблем в кодовых базах и длительные многоходовые диалоги. Она основана на архитектуре MoE с заявленными 35B общих параметров и 3B активных параметров, использует 6-битное динамическое смешанное квантование oQ6e с imatrix, шаблон чата Sharp и обученную голову multi-token prediction (MTP) для ускоренного декодирования. Поддерживаются текст и изображения, а заявленные языки — английский и китайский. Встроенный vision-проектор поставляется в той же папке, отдельно загружать его не требуется. Сильными сторонами модели являются скорость, эффективность в задачах программирования и качество многоходового общения. В README она описывается как особенно подходящая для практической работы с кодом, тогда как для викторин, экзаменационных знаний и сложного общего рассуждения рекомендуется использовать другие модели. Приведённые результаты SWE-bench и других тестов относятся к сборке GGUF, а не непосредственно к этому MLX-файлу, поэтому их нельзя считать точными измерениями данной версии. Для запуска рекомендуется oMLX, который поддерживает MTP. Версия несовместима с ML Studio: его MLX-движок некорректно исполняет MTP и генерирует бессмысленный многоязычный текст. Для LM Studio следует использовать сборку GGUF или вариант MLX без MTP. Модель распространяется по лицензии MIT.

Granite-4.2-30B (MXFP4) — квантизированная версия языковой модели Granite-4.2-30B, разработанная командой Granite компании IBM. Это открытая text-generation модель для рассуждений, генерации и анализа кода, многошаговых задач, диалога, вызова инструментов и агентных рабочих процессов. Вариант MXFP4 предназначен для инференса с уменьшенными требованиями к памяти; он получен квантизацией исходной модели с помощью GPTQ, калиброванной на 2 тысячах примеров из SFT-датасета. Исходная модель представляет собой decoder-only dense Transformer с архитектурой GraniteForCausalLM, примерно 30 млрд параметров, 64 слоями, Grouped Query Attention с 32 attention heads и 8 KV heads, RoPE, SwiGLU, RMSNorm и раздельными входными и выходными embedding. Модель поддерживает текстовую модальность, встроенное рассуждение в режимах полного, отключённого и low-effort thinking, native tool calling и OpenAI-совместимые сценарии развёртывания. Нативный контекст составляет 128K токенов; заявлено расширение long-context до 512K. Тестировались English, German, Spanish, French, Japanese, Portuguese, Arabic, Czech, Italian, Korean, Dutch и Chinese. Сильные стороны модели — рассуждения, программирование, следование инструкциям, вызов инструментов, агентные задачи и работа с длинным контекстом. Ограничения включают возможное снижение качества на языках кроме English, а также риск неточных, предвзятых или небезопасных ответов; раскрываемое содержимое reasoning может быть промежуточным и не отражать окончательный вывод. Модель распространяется по лицензии Apache 2.0.

MiMo-V2.6-Flash-RL — мультимодальная модель Xiaomi из серии MiMo-V2.6, обученная с подкреплением для задач агентного взаимодействия и самоулучшения по обратной связи. Она предназначена для генерации текста, работы с инструментами, программирования и мультимодального понимания; обучение объединяет задачи кодирования, визуальные сценарии, агентов общего назначения и кибербезопасность. В README архитектура описана как разреженная MoE с 309 млрд общих и 15 млрд активируемых параметров, 1 млн токенов контекста, обработкой текста, изображений, видео и аудио, а также визуальным и аудиокодировщиками. Метаданные Hugging Face, однако, указывают 12 млрд параметров и архитектуру dense MiMoV2ForCausalLM в формате safetensors FP8; поэтому точный размер и тип архитектуры опубликованной версии противоречивы. Метаданные также указывают поддержку английского и китайского языков. Для развёртывания README приводит рецепты SGLang и vLLM и интерфейс вызова инструментов. Модель распространяется по лицензии MIT. README приводит результаты отдельных бенчмарков, но не задаёт гарантий качества для конкретных задач; работа с длинным контекстом и мультимодальными входами требует совместимого программного обеспечения и достаточных вычислительных ресурсов.

NVIDIA Kimi-K3-NVFP4 — квантизированная версия мультимодальной модели Kimi-K3, разработанной Moonshot AI и оптимизированной NVIDIA с помощью Model Optimizer. Это авторегрессионная transformer-модель архитектуры Mixture-of-Experts с компонентами Kimi Delta Attention, Attention Residuals и Stable LatentMoE. Объём модели составляет 2,8 трлн параметров, при этом для каждого токена активируются 16 из 896 экспертов. Версия NVFP4 — 1.0, квантизация выполнена с использованием nvidia-modelopt v0.45.0. Модель предназначена для генерации текста и кода, длительных задач программирования, глубокого рассуждения, разработки игр, end-to-end knowledge work и мультимодальных агентских сценариев. Она принимает текст, изображения и видео, а её нативное контекстное окно составляет 1 048 576 токенов. На выходе формируется текст, включая естественно-языковые ответы, код, структурированный JSON, запросы инструментов и инструкции для координации агентов. Поддерживаются vLLM и SGLang; целевая аппаратная платформа — NVIDIA Blackwell B200 и B300 под Linux. К сильным сторонам относятся мультимодальность, чрезвычайно длинный контекст, MoE-архитектура и готовность к развёртыванию на NVIDIA GPU, включая NVFP4-квантизацию. Ограничения связаны с высокой общей размерностью модели и требованиями к специализированной аппаратуре; размер и свойства обучающих данных не раскрыты. Модель рассчитана на коммерческое и некоммерческое использование, однако её применение регулируется NVIDIA Open Model Agreement и дополнительными условиями лицензии Kimi-K3.

P4tchFake/Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill — текстовая генеративная модель, дообученная на базе Qwen3.5-9B с использованием supervised fine-tuning, LoRA и дистилляции рассуждений из Gemini 3.1, Gemini 3.0 Pro и Qwen3.5-27B. Модель ориентирована на структурированное аналитическое поведение и более организованный Chain-of-Thought. В README указаны английский, китайский и корейский языки; архитектура описана как Dense, размер базовой модели — 9B параметров, однако размер контекста не указан. Модель предназначена для сложных многошаговых задач, требующих декомпозиции, планирования, абстрагирования, отслеживания ограничений и анализа компромиссов. Заявлены широкие области применения, включая математику и логику, программирование и системный анализ, безопасность и adversarial reasoning, физику, инженерию, право, философию, медицину, финансы, химию и прикладные социальные системы. Среди сильных сторон отмечаются структурированное рассуждение, более плотные и последовательные аналитические ответы, междисциплинарный охват и компактный размер. Из-за дистилляции и специализированного дообучения поведение модели может отличаться от исходной Qwen3.5-9B: возможны изменения в обобщающей способности и частичное забывание отдельных сведений предварительного обучения. Поэтому модель рекомендуется оценивать на собственных задачах перед применением в продуктивных сценариях. Лицензия — Apache-2.0.

Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, опубликованная в открытом виде. Она предназначена для генерации ответов и выполнения сложных многошаговых задач в программировании, профессиональной работе, исследованиях и агентных сценариях. Модель поддерживает чат и интерфейс вызова инструментов; README указывает совместимость формата Transformers с vLLM, SGLang и TokenSpeed. Архитектура — Mixture of Experts с 92 слоями и 512 экспертами: всего 2,4 трлн параметров, из которых активируется 95 млрд. Нативная длина контекста составляет 262 144 токена и может расширяться примерно до 1,01 млн. Модель принимает только текст; для всех взаимодействий требуется режим рассуждения, который нельзя отключить. Модель не поддерживает мультимодальные входы, а её языковая поддержка в предоставленных данных не перечислена. В метаданных указана лицензия «other», без конкретных условий использования; перед применением следует проверить лицензию на странице модели. README описывает постобученные веса и файлы конфигурации.

unsloth/cogito-v2-preview-llama-405B-GGUF — GGUF-версия большой языковой модели Cogito v2 preview 405B, разработанной DeepCogito и подготовленной Unsloth. Это инструкционно дообученная генеративная модель для коммерческого использования, ориентированная на программирование, задачи STEM, выполнение инструкций, общую полезность и вызов инструментов. Модель является гибридной reasoning-моделью: она может отвечать напрямую в стандартном режиме или выполнять дополнительное саморефлексивное рассуждение перед ответом. Для обучения использовалась стратегия Iterated Distillation and Amplification (IDA). Модель обучена более чем на 30 языках и поддерживает контекст длиной до 128 тысяч токенов. В README заявлены повышенные возможности в многоязычных задачах, программировании и tool calling по сравнению с сопоставимыми по размеру моделями, а также превосходство на ряде отраслевых бенчмарков, однако конкретные числовые результаты для GGUF-версии не приведены. Вариант GGUF предназначен для использования с совместимыми инструментами локального запуска, включая llama.cpp; для корректного применения шаблона чата в llama.cpp рекомендуется параметр --jinja. Для включения расширенного рассуждения требуется поддержка параметра enable_thinking=True в chat template либо специальная системная инструкция и предварительная вставка тега <think>. К ограничениям относятся очень большой размер модели и, как следствие, высокие требования к памяти и вычислительным ресурсам; точные требования зависят от используемой квантизации, но её параметры в README не указаны. Модель распространяется по лицензии llama3.1, обозначенной как открытая лицензия с разрешением коммерческого использования.

NVIDIA DeepSeek-V4-Pro-0813-NVFP4 — квантизированная версия модели DeepSeek-V4-Pro-0813, разработанной DeepSeek AI и оптимизированной NVIDIA с помощью Model Optimizer. Это авторегрессионная текстовая языковая модель на архитектуре Transformer с Mixture-of-Experts, гибридным вниманием Compressed Sparse Attention и Heavily Compressed Attention, а также Manifold-Constrained Hyper-Connections. Общий объём модели составляет 1,65 трлн параметров, из которых при генерации активируется 49 млрд. NVIDIA отдельно указывает, что модель не принадлежит ей и не была ею разработана как исходная модель. Модель предназначена для сложного рассуждения, агентных AI-приложений, использования инструментов и решения задач в математике, программной инженерии и корпоративных AI-ассистентах. Она принимает и генерирует текст, поддерживает многошаговые диалоги, системные инструкции, структурированный JSON-вывод, function calling и выдачу рассуждений при включении соответствующего режима. Максимальная длина контекста заявлена на уровне 1 млн токенов; предусмотрен собственный конвейер кодирования encoding_dsv4 с уровнями усилий рассуждения low, high и max. В составе исходного чекпойнта также заявлен модуль спекулятивного декодирования DSpark. Модель распространяется по лицензии MIT и допускает коммерческое и некоммерческое использование. Для запуска указаны SGLang и vLLM, Linux и GPU NVIDIA Blackwell B200; практическая производительность ориентирована на ускорение NVIDIA. Ограничения включают требовательность к совместимой аппаратной инфраструктуре, неизвестные сведения об обучающих данных и необходимость дополнительного тестирования на прикладных данных для проверки качества, безопасности и соответствия требованиям конкретного сценария.

GigaChat 3.5 Reasoning — большая языковая модель, разработанная ai-sage. Эта версия распространяется в формате GGUF для высокопроизводительного запуска через llama.cpp; базовая модель доступна в варианте BF16, а отдельная версия предназначена для инференса в FP8. Модель ориентирована на задачи, требующие углублённого рассуждения, и обучалась с использованием online RL. Архитектура представляет собой Mixture-of-Experts с общим размером 432 млрд параметров, из которых 28 млрд активируются при обработке токена. Используется гибридная архитектура, объединяющая Multi-head Latent Attention (MLA) и слои линейного внимания GatedDeltaNet. Дополнительно применяются GatedNorm и три MTP-головы для speculative decoding. Максимальная поддерживаемая длина контекста — 262 тысячи токенов. Заявлена поддержка русского и английского языков, а также сценариев text generation, instruction following, reasoning, tool use, function calling и structured output. Модель предназначена для решения математических и научных задач, программирования, редактирования кода, генерации тестов, репозиторных задач уровня SWE-bench, взаимодействия с инструментами, работы с длинным контекстом и соблюдения заданных форматов. К сильным сторонам относятся улучшения в математике, коде, следовании инструкциям и структурированном выводе по сравнению с GigaChat 3.5 Ultra Instruct, а также специализированное обучение шести доменных экспертов с последующей on-policy distillation. Ограничения включают высокие требования к вычислительным ресурсам из-за масштаба модели; конкретные требования к оборудованию, количественные характеристики производительности и ограничения использования в README не указаны. Лицензия — MIT.

NVIDIA Nemotron-3-Super-120B-A12B-BF16 — большая языковая модель с открытыми весами, разработанная NVIDIA Corporation. Представленная версия распространяется в формате GGUF и сгенерирована с использованием llama.cpp; исходная модель выпущена 11 марта 2026 года. Модель предназначена для агентских сценариев, рассуждений с длинным контекстом, использования инструментов, RAG и высоконагруженных задач, включая автоматизацию IT-заявок. Архитектура LatentMoE объединяет Mamba-2, Mixture of Experts и механизмы внимания, а также Multi-Token Prediction. Всего модель содержит 120 млрд параметров, из которых 12 млрд активны при обработке запроса, и поддерживает контекст до 1 млн токенов. Доступны английский, французский, немецкий, итальянский, японский, испанский и китайский языки. Режим рассуждений можно включать или отключать через шаблон чата. К сильным сторонам относятся сочетание большого контекста, разреженной MoE-архитектуры, поддержки инструментов и ориентация на агентские и корпоративные рабочие процессы. Ограничения включают значительный общий размер модели и высокие требования к инфраструктуре: для исходной версии указано минимум 8 GPU H100 с 80 ГБ памяти. GGUF-версия использует специальную настройку квантования с повышением точности отдельных слоёв, что может увеличить размер файла. Модель распространяется по лицензии NVIDIA Nemotron Open Model License.

unsloth/gpt-oss-20b — открытая по весам языковая модель OpenAI из семейства gpt-oss, представленная в репозитории Unsloth и основанная на openai/gpt-oss-20b. Она предназначена для генерации текста, задач, требующих рассуждений, агентских сценариев и широкого спектра разработческих применений, включая вызов функций, веб-б browsing, выполнение Python-кода и Structured Outputs. Модель использует архитектуру Mixture-of-Experts с 21 млрд параметров, из которых 3,6 млрд активны при обработке запроса. Нативная квантование MXFP4 для MoE-слоёв позволяет запускать её примерно в пределах 16 ГБ памяти; модель ориентирована на меньшую задержку, локальное выполнение и специализированные сценарии по сравнению с gpt-oss-120b. Доступны настраиваемые уровни усилий рассуждения — низкий, средний и высокий, а также возможность дообучения. Для корректной работы необходимо использовать формат ответов harmony; применение модели в другом формате может приводить к некорректным результатам. Полная цепочка рассуждений доступна разработчику для отладки и анализа, но не предназначена для показа конечным пользователям. Модель является текстовой, сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Лицензия Apache 2.0 допускает свободное использование, модификацию, дообучение и коммерческое развёртывание с учётом условий лицензии.

Qwen2.5-Coder-14B-Instruct-AWQ — инструкция-настроенная языковая модель для генерации текста и программного кода, разработанная командой Qwen. Она предназначена для написания, анализа, объяснения и исправления кода, решения задач программирования, а также для использования в чат-ассистентах и агентных системах разработчика. Модель основана на Qwen2.5-Coder-14B-Instruct и распространяется как 4-битная AWQ-квантизированная версия. Модель является каузальной языковой моделью с архитектурой на базе Transformers, RoPE, SwiGLU, RMSNorm и смещениями в QKV-внимании. Она содержит около 14,7 млрд параметров, 48 слоёв и использует Grouped Query Attention с 40 головами для Q и 8 для KV. Заявлена поддержка контекста до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN. Модель обучалась на данных, включающих исходный код, текстово-кодовые связи и синтетические данные, с общим объёмом обучения 5,5 трлн токенов. В метаданных README указан английский язык. К сильным сторонам относятся специализация на программировании, улучшенные генерация, рассуждение и исправление кода, а также сниженные требования к памяти благодаря 4-битной квантизации. Ограничения связаны с возможным ухудшением производительности на коротких текстах при статическом масштабировании YaRN и с тем, что для эффективной работы требуются совместимые версии Transformers и поддержка AWQ. Модель распространяется по лицензии Apache-2.0.

GLM-4.5-Air-GGUF — это квантизированная в формате GGUF версия гибридной reasoning-модели GLM-4.5-Air, подготовленная Unsloth на базе модели Z.ai (Zhipu AI). Модель предназначена для создания интеллектуальных агентов, сложного рассуждения, программирования, использования инструментов и генерации текста. Она поддерживает два режима работы: thinking mode для задач, требующих многошагового рассуждения и tool usage, и non-thinking mode для быстрых ответов. GLM-4.5-Air использует архитектуру с 106 миллиардами общих параметров и 12 миллиардами активных параметров. Модель относится к текстовым моделям и заявлена для работы на английском и китайском языках. GGUF-версия ориентирована на локальный запуск, в том числе через llama.cpp; для него в README рекомендуется использовать параметр --jinja. Вариант Unsloth включает исправления chat template и использует подход Unsloth Dynamic 2.0, направленный на сохранение высокой точности при квантизации. Сильными сторонами модели являются сочетание рассуждения, программирования и агентных возможностей, а также более компактная и эффективная конфигурация по сравнению с GLM-4.5 при сохранении конкурентных результатов на заявленных тестах. Ограничения включают отсутствие в README подробностей о конкретном типе квантизации, поддерживаемой длине контекста, полном наборе языков, требованиях к оборудованию и результатах для всех отдельных бенчмарков. Модель и исходные версии GLM-4.5-Air выпускаются под лицензией MIT, допускающей коммерческое использование и вторичную разработку.