II.11Кибербезопасность и приватность

IQuest-Q1 — языковая модель от IQuest для агентного программирования, рассуждений и многошагового использования инструментов. В репозитории Hugging Face указана версия на 3,7 млрд параметров с архитектурой MoE семейства IQuest-Q1; README описывает вариант примерно на 320 млрд параметров, из которых около 15 млрд активируются на каждом токене. Это расхождение означает, что параметры конкретного загруженного чекпойнта не вполне согласуются с описанием карточки. Модель предназначена для генерации текста в диалоговом режиме и может использоваться в агентных сценариях, включая работу с кодом и инструментами через совместимые интерфейсы. Заявлено контекстное окно до 524 288 токенов; поддерживаются английский и китайский языки. По README модель не обладает мультимодальными возможностями. Весовой формат репозитория — safetensors, библиотека — Transformers. Лицензия указана как other, поэтому условия использования следует проверить в самой карточке модели.

Kimi-K2.7-Code-Alis-MLX-Dynamic-3.6bpw — это чувствительность-ориентированная 3,6-битная MLX-квантизация модели moonshotai/Kimi-K2.7-Code, созданная avlp12 для запуска на компьютерах Apple Silicon, прежде всего на M3 Ultra. Базовая модель представляет собой примерно триллионопараметрическую MoE-архитектуру в стиле DeepSeek-V3 с 32 млрд активных параметров и предназначена главным образом для генерации кода и решения задач программирования. Репозиторий содержит текстовую/code-версию рецепта, однако исходные веса были удалены как дубликат и перенесены в связанный VLM-репозиторий; языковая часть там побитово идентична этой сборке, а VLM дополнительно включает MoonViT и projector. Модель использует Multi-head Latent Attention (MLA), благодаря чему KV-кэш занимает относительно мало памяти: около 68,6 КБ на токен по всем 61 слоям. Нативное контекстное окно составляет 256K токенов, с YaRN-расширением и rope_theta 50000. Размер весов — около 465 ГБ (433 GiB), поэтому модель рассчитана на один компьютер с 512 ГБ памяти или на распределённый запуск на двух M3 Ultra по Thunderbolt через pipeline parallelism. Квантизация применяет 3 бита к большинству routed experts, 4 бита к down_proj в 16 из 60 слоёв, 6 бит к attention, shared experts, dense-слою, embedding и LM head, а маршрутизатор сохраняется в bf16; эффективная разрядность составляет 3,62 бита на вес. Сильными сторонами являются существенное снижение требований к памяти по сравнению с полноразмерными и 4-битными сборками, сохранение качества за счёт чувствительность-ориентированного распределения битов и возможность работы с очень длинным контекстом. Ограничения включают экстремально большой размер, необходимость мощного Apple Silicon-оборудования и отсутствие заявленной универсальной оценки качества помимо приведённых метрик perplexity и KL-дивергенции. Лицензия указана как modified-MIT; ссылка ведёт на лицензию базовой модели Kimi-K2.7-Code.

Kimi K3 — открытая мультимодальная модель с весами от Moonshot AI для агентных сценариев, рассуждений и работы с большими контекстами. В карточке указана архитектура Kimi Delta Attention (KDA), Attention Residuals и разреженный MoE с 896 экспертами, из которых активируются 16; размер модели — 2,8 трлн параметров. Модель принимает текст, изображения и видео, а заявленное контекстное окно составляет 1 млн токенов. Модель предназначена для длительных задач разработки, включая анализ больших репозиториев и управление инструментами, а также для исследовательской и аналитической работы с текстом и визуальными материалами. Она поддерживает режим рассуждения с настраиваемым уровнем усилий и предоставляет reasoning_content. Веса выпущены по лицензии Kimi K3 License; подробные условия лицензии в предоставленных материалах не раскрыты.

m51Lab выпустила эту разреженную языковую модель 15 апреля 2026 года как вариант MiniMax-M2.7, в котором методом REAP удалено 40 % экспертов в блоках Mixture-of-Experts. Модель содержит около 139 млрд параметров, из которых примерно 10 млрд активны на каждом токене; в архитектуре 62 слоя. По метаданным, она загружается через Transformers и имеет контекст до 196 608 токенов. Модель предназначена для генерации текста в диалоговом режиме, включая написание кода, математические и научные рассуждения и вызовы инструментов. В README приведён результат HumanEval pass@1 83,3 % для завершённых задач при бюджете генерации 32 тыс. токенов; при строгом подсчёте всех 164 задач результат составляет 54,9 %, поскольку незавершённые решения учитываются как ошибки. Для воспроизведения указанной оценки рекомендуется выделять не менее 64 тыс. токенов генерации. README описывает также небольшой дефект коррекции смещений одного слоя; по данным карточки, его влияние на маршрутизацию незначительно. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией и файлами репозитория. README описывает вариант после структурного прореживания, а метаданные классифицируют связь с MiniMax-M2.7 как finetune; формат файлов в метаданных — safetensors.

MoD-Embedding — текстовая модель эмбеддингов, созданная путём дообучения Qwen/Qwen3-Embedding-4B разработчиком bflhc. Она преобразует тексты в векторы для семантического поиска, извлечения информации, сравнения и кластеризации документов, межъязыкового поиска и классификации с использованием эмбеддингов. Модель имеет плотную архитектуру Qwen3, около 3,7 млрд параметров и размерность эмбеддингов 2560; для запуска указана библиотека Sentence Transformers. Метаданные указывают контекст до 40 960 токенов, README — максимальную длину последовательности 32 768 токенов. Поддерживаются английский, китайский и другие языки. Модель ориентирована на задачи поиска и сопоставления текстов и выдаёт эмбеддинги; она не предназначена для генерации текста. README отмечает, что качество может различаться в зависимости от предметной области и языка, а для очень длинных документов может потребоваться усечение. Лицензия — Apache-2.0.

Карточка модели zendxx/NeoHorse-1-4B на Hugging Face совпадает с карточкой TokenRhythm/NeoHorse-1-4B, поэтому описание составлено по ней. NeoHorse-1-4B — плотная причинно-языковая модель примерно на 3,4 млрд параметров, разработанная TokenRhythm дообучением Qwen/Qwen3.5-4B. Это прототип для текстовых агентных сценариев: диалогов, вызова инструментов, программирования, рассуждений и следования инструкциям. Модель распространяется в формате Safetensors; карточка указывает контекст до 262 144 токенов и совместимость с Transformers, а README описывает локальный запуск через SGLang и vLLM с OpenAI-совместимым API. В README заявлен прирост среднего результата на десяти бенчмарках относительно исходной Qwen3.5-4B. Выпуск содержит только языковые веса: визуальные веса отсутствуют, поэтому этот репозиторий предназначен для текстового вывода, даже несмотря на мультимодальные возможности базовой модели. Фактическая длина контекста при обслуживании зависит от памяти GPU и настроек сервера. Лицензия — Apache-2.0.

Карточка модели liskasYR/NeoHorse-1-9B на Hugging Face совпадает с карточкой TokenRhythm/NeoHorse-1-9B, поэтому описание составлено по ней. NeoHorse-1-9B — текстовая причинно-следственная языковая модель TokenRhythm, дообученная на базе Qwen3.5-9B для работы с агентными системами. Модель имеет 7,2 млрд параметров, использует архитектуру Qwen3.5 и принимает только текст; визуальные веса в этом выпуске отсутствуют. Заявленная длина контекста — 262 144 токена. Модель предназначена для диалогов, следования инструкциям, вызова инструментов, программирования и рассуждений в текстовых агентных сценариях. В техническом отчёте авторы сообщают о среднем результате 69,04 по десяти тестам против 65,60 у базовой Qwen3.5-9B; это результаты авторской оценки, а не гарантия качества в конкретном применении. Доступны веса в формате safetensors и интерфейс для вызова инструментов. Лицензия — Apache-2.0.

ggml-org/Nomic-Embed-Text-V2-GGUF — это версия модели nomic-ai/nomic-embed-text-v2-moe, преобразованная в формат GGUF с помощью llama.cpp через сервис GGUF-my-repo от ggml.ai. Модель предназначена для создания векторных представлений текста и задач семантического сходства, включая поиск, сравнение и извлечение признаков; использовать её можно с инструментами и библиотеками, поддерживающими GGUF, в частности llama.cpp. В карточке указана интеграция с sentence-transformers и широкий набор поддерживаемых языков, включая английский, русский, китайский, японский, арабский, испанский, немецкий, французский и многие другие. Архитектура, количество параметров, размер контекста, размерность эмбеддингов и точные характеристики базовой модели в README не приведены, поэтому оценить производительность и ограничения по длине входа по этим данным нельзя. Модель предназначена для текстовых задач и не заявлена как мультимодальная. Лицензия — Apache-2.0.

NV-Embed-v1 — англоязычная модель эмбеддингов от NVIDIA на базе decoder-only LLM Mistral-7B-v0.1. Она преобразует запросы и тексты в векторы размерностью 4096 для поиска и других задач сравнения и анализа текста. Модель использует pooling с latent attention и двухэтапную настройку инструкциями. В README сообщается о результатах на бенчмарке MTEB по 56 задачам, включая поиск, ранжирование, классификацию, кластеризацию и семантическое сходство; также указаны результаты AIR-Bench QA для английского языка и Long-Doc. Для доступа к репозиторию требуется аутентификация Hugging Face. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Она предназначена для получения эмбеддингов и поддерживает задачи извлечения признаков и сравнения предложений; в каталоге файлов указан формат safetensors.

cyankiwi/Ornith-1.5-35B-A3B-AWQ-INT4 — квантованная версия модели Ornith-1.5-35B-A3B, разработанной командой Ornith AI. Это языковая модель для генерации текста, ориентированная прежде всего на программирование, агентские сценарии и работу с инструментами. Модель создана с применением цикла самоулучшения, включающего автоматическую генерацию задач, поиск эффективных стратегий и обучение с подкреплением. Модель относится к архитектуре mixture-of-experts: при общем размере 35B параметров на каждый токен активируется примерно 3B параметров. Данная версия использует квантование AWQ INT4 и занимает около 26,12 ГБ. В README заявлена поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Контекстное окно и мультимодальные возможности не указаны. Сильными сторонами заявлены результаты в задачах программирования и агентного кодинга: модель превосходит сопоставимую Qwen3.6-35B-A3B на приведённых бенчмарках и показывает преимущество над некоторыми плотными моделями близкого размера. Ограничения включают отсутствие данных о контекстном окне, качестве на широком спектре задач и характеристиках инференса; INT4-квантование также может влиять на точность по сравнению с полной версией. Модель распространяется по лицензии MIT.

Ornith-1.5-35B-A3B — языковая модель семейства Ornith-1.5, разработанная командой Ornith. Это среднеразмерная sparse Mixture-of-Experts модель с 35 млрд параметров, из которых при обработке каждого токена активируется около 3 млрд. Представленная версия предназначена для запуска через библиотеку MLX в 4-битном формате квантования и поддерживает генерацию текста. Модель ориентирована прежде всего на программирование, работу с терминалом и агентские сценарии, включая автономное решение задач разработки и взаимодействие с инструментами. Согласно карточке модели, она обучалась с использованием цикла самоулучшения: модель совместно оптимизировала генерацию задач, построение scaffolding и последовательности решений с помощью reinforcement learning. Заявлены высокие результаты на Terminal-Bench 2.1 и SWE-bench Verified; однако приведённые показатели зависят от конкретного окружения и конфигурации агентского harness. К сильным сторонам относятся высокая эффективность инференса за счёт активации небольшой части параметров, специализация на кодировании и агентской работе, а также 4-битное представление для запуска в экосистеме MLX. В доступных данных не указаны максимальная длина контекста, полный список поддерживаемых языков, мультимодальные возможности, требования к оборудованию и лицензия, поэтому эти характеристики и условия использования требуют дополнительной проверки.

Ornith-1.5-397B — крупная языковая модель от команды Ornith AI, представленная как флагман семейства Ornith-1.5. Модель развивает Ornith-1.0, созданную на базе Qwen3.5 и Gemma4 с дополнительным продолжением предобучения, промежуточным обучением и постобучением. В Ornith-1.5 применяется цикл самоулучшения с совместной оптимизацией генерации задач, построения scaffolding и последовательностей решений с использованием reinforcement learning. Модель предназначена прежде всего для сложных задач программирования и работы с инструментами, включая разработку, исправление ошибок и выполнение задач в терминале. Ornith-1.5-397B имеет архитектуру mixture-of-experts с 397 миллиардами параметров. В карточке указано текстовое поколение, однако сведения о поддерживаемых языках, длине контекста и других модальностях не приведены. Согласно заявленным результатам, модель набрала 86,1 на Terminal-Bench 2.1 с Terminus-2, 85,2 с Claude Code, 86 на SWE-bench Verified и 56 на DeepSWE. Это указывает на сильные стороны в агентном программировании и решении инженерных задач; при этом приведённые показатели зависят от конкретных инструментов и протоколов оценки и не гарантируют аналогичные результаты в других сценариях. Модель распространяется по лицензии MIT.

win10/Qwen2.5-Coder-12.3b-Instruct — объединённая инструкционная языковая модель на архитектуре Qwen2, созданная методом passthrough с помощью mergekit на основе Qwen/Qwen2.5-Coder-7B-Instruct. Репозиторий содержит веса в формате safetensors; метаданные указывают 11,7 млрд параметров и контекст длиной до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и ориентирована на задачи программирования: написание, анализ и исправление кода. Поддерживает интерфейс вызова инструментов. В карточке указана лицензия Apache-2.0. Ограничения качества и перечень поддерживаемых языков программирования в предоставленных данных не описаны.

unsloth/Qwen2.5-Coder-14B-Instruct — это инструкционная языковая модель для генерации и анализа кода, представленная в формате Unsloth и основанная на Qwen/Qwen2.5-Coder-14B-Instruct. Она использует плотную архитектуру Qwen2 с причинным декодером и содержит 14 млрд параметров; для запуска через Transformers доступны веса Safetensors. Модель рассчитана на контекст до 32 768 токенов. Модель предназначена для диалоговых сценариев разработки: написания и дополнения кода, анализа программ, исправления ошибок и работы в агентных сценариях. Карточка Qwen2.5-Coder описывает усиление генерации, рассуждений и исправления кода при сохранении общих математических и языковых навыков. Поддерживается английский язык; метаданные также отмечают интерфейс для вызова инструментов. Это дообученная модель, а не исходная базовая версия. Лицензия — Apache-2.0. README содержит общее описание семейства, но часть его утверждений о размере и типе модели относится к версии 0,5B и не описывает этот репозиторий; здесь использованы параметры 14B и контекста из метаданных. Конкретные оценки качества для этой версии в предоставленных материалах не приведены.

Qwen2.5-Coder-32B-Instruct-abliterated-GGUF — это GGUF-квантизированная версия инструкционной модели Qwen2.5-Coder-32B-Instruct-abliterated, опубликованная пользователем bartowski и основанная на модели huihui-ai. Квантизация выполнена с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и прежде всего для задач программирования, работы с кодом и диалогового взаимодействия. В README указан английский язык; сведения о поддерживаемых языках, длине контекста и точной архитектуре не приведены. Доступны варианты от полноточного F16 размером 65,54 ГБ до квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ4 объёмом примерно от 17,7 до 34,8 ГБ. Варианты Q6_K_L, Q6_K, Q5 и Q4 отмечены как рекомендуемые благодаря сочетанию качества и размера; Q4_K_M обозначен как вариант стандартного размера для большинства сценариев. Отдельные варианты Q4_0 оптимизированы для ARM и требуют соответствующей аппаратной поддержки, поэтому их совместимость с Mac и Windows ограничена. Модель может использоваться локально через llama.cpp и LM Studio при наличии значительных ресурсов оперативной или видеопамяти. Более сильные квантизации сохраняют высокое качество, но требуют больше памяти, тогда как компактные варианты экономичнее, однако могут заметно уступать по качеству. README не содержит независимых оценок производительности, сведений о мультимодальности, ограничениях безопасности или подробностей обучения. Указана лицензия Apache-2.0.

BenevolenceMessiah/Qwen2.5-Coder-32B-Instruct-abliterated-Q5_K_M-GGUF — это квантизированная версия в формате GGUF модели Qwen2.5-Coder-32B-Instruct-abliterated. Репозиторий содержит конвертацию исходной модели, выполненную с помощью llama.cpp через сервис GGUF-my-repo. В метаданных указана лицензия Apache-2.0, а базовой моделью названа huihui-ai/Qwen2.5-Coder-32B-Instruct-abliterated. Модель предназначена для генерации текста и диалогового использования, прежде всего для задач, связанных с программированием: написания, объяснения и обработки кода. Она рассчитана на запуск через llama.cpp в командной строке или в режиме сервера и может применяться локально при наличии совместимого оборудования. В README также отмечена поддержка английского языка. Ключевые характеристики — архитектура семейства Qwen2.5-Coder, размер 32B параметров и квантизация Q5_K_M в формате GGUF. README не содержит сведений о точном размере контекста, поддерживаемых модальностях помимо текста, результатах тестирования, требованиях к памяти и производительности. Вариант abliterated позиционируется как менее ограниченный, однако подробности метода его создания и практические ограничения не описаны. Для использования требуется совместимая сборка llama.cpp; условия лицензии указаны как Apache-2.0.

unsloth/Qwen2.5-Coder-3B — дообученная Unsloth версия базовой модели Qwen/Qwen2.5-Coder-3B, предназначенная для генерации кода и работы с ним. Это плотная причинно-языковая модель семейства Qwen2 с 3,1 млрд параметров; она использует библиотеку Transformers и распространяется в формате Safetensors. Контекст составляет до 32 768 токенов. Модель подходит для генерации кода по текстовому запросу, анализа и исправления кода, а также для задач заполнения фрагментов кода. Семейство Qwen2.5-Coder обучалось на коде и тексто-кодовых данных и сохраняет общие способности Qwen2.5, включая математику. Карточка репозитория содержит противоречивые сведения о размере и варианте: описание модели относится к 3B, а README также содержит общий текст и характеристики версии 0.5B; поэтому характеристики конкретно этой версии опираются на метаданные. Поддерживаемый язык в метаданных карточки — английский. Лицензия Apache-2.0 разрешает использование на её условиях. Базовые языковые модели не предназначены для диалогового применения без дополнительного постобучения; качество конкретной версии зависит от задачи и не гарантируется приведёнными в README общими заявлениями семейства.

BenevolenceMessiah/Qwen2.5-Coder-7B-3x-Instruct-TIES-v1.1 — объединённая модель на основе Qwen2.5-Coder-7B, созданная методом TIES с помощью mergekit. В состав объединения входят Etherll/Qwen2.5-Coder-7B-Instruct-Ties, huihui-ai/Qwen2.5-Coder-7B-Instruct-abliterated и MadeAgents/Hammer2.0-7b. Это плотная причинная языковая модель архитектуры Qwen2 с 7,1 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Модель предназначена для генерации, анализа и исправления программного кода, а также для диалоговых сценариев и вызова инструментов через соответствующий интерфейс. Она принимает текст и выдаёт текст; заявленная длина контекста составляет 32 768 токенов. Карточка не сообщает отдельный перечень поддерживаемых естественных языков или лицензию, поэтому языковую специализацию и условия использования по доступным сведениям определить нельзя.

QuantTrio/Qwen3.6-27B-AWQ — это квантизированная версия модели Qwen3.6-27B, разработанной командой Qwen и опубликованной в формате, совместимом с Transformers. Вариант AWQ создан с помощью квантования без калибровочного датасета; размер файла модели составляет около 21 GiB. Лицензия — Apache 2.0. Модель предназначена прежде всего для агентного программирования, работы с фронтенд-разработкой, анализа репозиториев и сценариев с вызовом инструментов. Она относится к классу causal language model with vision encoder, поэтому поддерживает текстовые и визуальные входные данные. Заявлены возможности сохранения контекста рассуждений между сообщениями, автоматического выбора инструментов и интеграции с vLLM. Архитектура включает 27 миллиардов параметров, 64 слоя, комбинацию Gated DeltaNet и Gated Attention, а также многошаговое обучение для multi-token prediction. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Данные о полном наборе поддерживаемых языков и подробных результатах независимого тестирования в README не приведены. К сильным сторонам относятся большой контекст, мультимодальность, ориентация на программирование и возможность эффективного запуска в квантизированном виде. Ограничения связаны с тем, что AWQ-квантование без калибровочного набора может приводить к потере качества по сравнению с исходной моделью; для запуска указаны vLLM 0.19.0, Transformers 5.5.4 и CUDA 12.8 или 13.0. При использовании tensor parallelism на восьми GPU требуется включить expert parallelism.

tvall43/Qwen3.6-35B-A3B-heretic — созданная сообществом декензурированная версия Qwen3.6-35B-A3B, полученная с помощью Heretic v1.2.0 и метода ablation/abliteration, изменяющего проекции внимания. Это мультимодальная модель семейства Qwen с архитектурой MoE: всего 35 млрд параметров, из которых активируются около 3 млрд; она принимает текст и изображения и генерирует текст. Модель предназначена для диалогов, анализа изображений и задач программирования, включая работу с репозиториями и агентные сценарии с вызовом инструментов. В README приведено сравнение с исходной моделью: на указанной авторами выборке доля отказов снизилась с 86 из 100 до 5 из 100, а KL-дивергенция составила 0,0097. Контекст — 262 144 токена с возможностью расширения до 1 010 000 токенов. Для запуска используются веса safetensors и совместимые с Transformers среды, включая vLLM, SGLang и KTransformers. Модель опубликована по лицензии Apache-2.0. Изменение поведения отказов может приводить к ответам на запросы, которые исходная модель отклоняла; приведённые показатели относятся к оценке автора и не гарантируют качество или безопасность в иных сценариях.

hellohazime/Qwen3.8-2.4T-A95B-REAP-512GB-GGUF — GGUF-сборка модели Qwen3.8-2.4T-A95B, основанная на unsloth/Qwen3.8-2.4T-A95B-GGUF и подготовленная автором hellohazime. Это MoE-модель с 512 экспертами в каждом слое, из которых сохранены 304, выбранные по частоте маршрутизации на англоязычном веб-корпусе и коде. Ширина модели не изменялась, а исходная квантизация UD-IQ2_XXS сохранена без повторной квантизации. Размер файла составляет около 404 ГБ (376 GiB), что позволяет полностью разместить модель в памяти Mac с 512 ГБ и использовать её через стандартный llama.cpp. Модель предназначена прежде всего для генерации текста, работы с английским языком и программным кодом, включая агентские сценарии с использованием инструментов и длительные задачи разработки. Заявлено окно контекста 262 144 токена; в проверках использовался контекст до 131 072 токенов. По сравнению с исходной некроппированной квантизированной моделью сборка сохранила 89,7% маршрутизаций экспертов, показала совпадение наиболее вероятного токена 87,6% на английском тексте и 90,0% на коде, а также продемонстрировала загрузку и генерацию в stock llama.cpp. Сильными сторонами являются высокая точность относительно исходной Q2-квантизации, отсутствие необходимости в специальном runtime и пригодность для локального запуска на системе с 512 ГБ памяти. Ограничения связаны с экспертным pruning: отбор калибровался на английском веб-контенте и коде, поэтому неанглоязычные языки и задачи за пределами этих доменов могут пострадать. Производительность и качество за пределами проверенных режимов, включая более длинные контексты и иные распределения данных, не подтверждены. Лицензия указана как other, license_name — qwen3.8-max; ссылка ведёт на лицензию Qwen3.8-2.4T-A95B.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-AWQ-1M — это квантизированный вариант AWQ INT4 модели DavidAU Qwen3.8-27B Cold Fusion, подготовленный и упакованный Solstice-AI. Модель предназначена для генерации текста, рассуждений, программирования, агентных задач, отладки репозиториев и работы с длинными документами. В README заявлена поддержка английского и китайского языков, а также текстовой и пространственно-временной 3D-визуальной мультимодальности. Модель имеет размер 27 млрд параметров и использует гибридную архитектуру: блоки Gated Delta Recurrent Network с линейным вниманием и блоки Grouped-Query Attention. Формат AWQ INT4 уменьшает заявленный объём с примерно 54 ГБ в BF16 до около 18 ГБ. Контекст расширен с 262 144 до 1 048 576 токенов посредством YaRN RoPE scaling. Также заявлены аппаратная поддержка Multi-Token Prediction и ускорение генерации до 1,72–2,20 раза при использовании совместимой инфраструктуры, включая vLLM и Anvil Runtime. Сильными сторонами README называет задачи программной инженерии, решение задач, управление компьютером и мобильными ОС, следование сложным ограничениям и длинные многофайловые рабочие процессы; приведены высокие результаты на SWE-bench Pro, LiveCodeBench, QwenSWEBench, OSWorld-Verified, AndroidWorld, IFBench и ARC. Эти результаты представлены авторами модели и не подтверждены независимой проверкой в предоставленных данных. Возможными ограничениями являются требования к значительным аппаратным ресурсам для работы с контекстом в миллион токенов, потери качества или точности из-за INT4-квантизации и отсутствие подробностей о фактической совместимости мультимодальных возможностей. Указана лицензия Apache-2.0.

unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF — GGUF-версия инструкционной модели Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen и подготовленной Unsloth. Это каузальная языковая модель для генерации текста и кода, ориентированная на агентное программирование, использование браузера агентами и другие задачи разработки, включая работу с репозиториями большого размера. Модель поддерживает интеграции и специальные форматы вызова функций для инструментов вроде Qwen Code и CLINE. Архитектура основана на mixture-of-experts: всего 30,5 млрд параметров, из которых при обработке активируются около 3,3 млрд; предусмотрено 48 слоёв, 128 экспертов и 8 активируемых экспертов. Используется Grouped Query Attention с 32 головами запросов и 4 головами ключей и значений. Нативное окно контекста составляет 262 144 токена, а с использованием YaRN его можно расширить до 1 млн токенов. Модель работает только в режиме без рассуждений и не генерирует блоки <think></think>. К сильным сторонам относятся сочетание высокой заявленной производительности в задачах программирования с относительно небольшим числом активируемых параметров, а также поддержка контекста репозиторного масштаба. README не содержит подробных данных о языках, результатах бенчмарков, требованиях к оборудованию, конкретных параметрах GGUF-квантизации или ограничениях качества, поэтому эти характеристики нельзя уточнить. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-MLX-5bit — это 5-битная квантованная версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen. Квантование выполнено командой LM Studio с использованием mlx_lm; модель оптимизирована для работы на устройствах Apple Silicon и предназначена для генерации текста и задач, связанных с программированием, на основе исходной instruct-модели Qwen3-Coder. Модель имеет обозначение 30B-A3B, однако README не раскрывает подробности архитектуры, поддерживаемые языки, размер контекста, доступные модальности и результаты тестирования. Квантование в 5 бит ориентировано на более эффективное локальное использование на Apple Silicon, но README не содержит количественной оценки влияния квантования на качество или производительность. Модель распространяется по лицензии Apache 2.0.

Mungert/Qwen3-Embedding-4B-GGUF — набор GGUF-версий модели эмбеддингов на базе Qwen/Qwen3-4B-Base, подготовленный автором Mungert с использованием llama.cpp. Модель предназначена для извлечения признаков, вычисления сходства между предложениями и других задач семантического поиска и сопоставления текстов. В репозитории представлены варианты с разной точностью и степенью квантования: BF16, F16, гибридные форматы, Q4_K, Q6_K, Q8 и IQ-серии. Автор применяет метод выборочного повышения точности отдельных слоёв поверх стандартного IMatrix-квантования, чтобы улучшить сохранение качества при уменьшении размера модели, особенно для низкобитных вариантов. Это позволяет выбирать компромисс между точностью, объёмом памяти и скоростью инференса в зависимости от оборудования. Точные характеристики архитектуры, размерности эмбеддингов, максимального контекста и поддерживаемых языков в README не указаны. Низкобитные варианты подходят для запуска на CPU и устройствах с ограниченной VRAM, однако могут уступать полноточным версиям по качеству; BF16 и F16 требуют соответствующей аппаратной поддержки. Модель распространяется по лицензии Apache-2.0.

Qwen3-Embedding-4B-i1-GGUF — квантованная версия модели Qwen3-Embedding-4B, разработанной командой Qwen и подготовленной в формате GGUF пользователем mradermacher. Это модель для создания текстовых эмбеддингов и извлечения признаков, предназначенная для семантического сравнения текстов, поиска, классификации и других задач, где требуется представление текста в виде векторов. В метаданных указана поддержка английского языка. Модель основана на архитектуре Qwen3 и имеет размер около 4 млрд параметров. Репозиторий содержит варианты квантизации i1 с разными типами и размерами файлов — примерно от 1,2 до 3,4 ГБ, а также файл imatrix для самостоятельного создания квантов. Варианты различаются компромиссом между размером, скоростью и качеством: например, Q4_K_M обозначен как быстрый и рекомендуемый, а Q5_K и Q6_K должны обеспечивать более высокое качество при большем размере. Точная длина контекста, размер выходного вектора, поддерживаемые дополнительные языки и результаты тестирования в README не указаны. Главное преимущество модели — возможность локального запуска в компактном формате GGUF и выбор подходящего уровня квантизации под доступные ресурсы. Ограничения связаны с потерями качества при низкобитной квантизации; сам README предупреждает о низком качестве некоторых вариантов. Модель распространяется по лицензии Apache-2.0.

sergeyzh/rubert-mini-uncased — компактная BERT-модель автора sergeyzh для получения эмбеддингов предложений на русском и английском языках. Она создана дистилляцией эмбеддингов ai-forever/FRIDA: модель имеет 7 слоёв, размер эмбеддинга 384 и контекст до 512 токенов. Веса доступны в формате safetensors, лицензия — MIT. Модель предназначена для оценки семантического сходства предложений, поиска и сравнения текстов, а также задач классификации и кластеризации на основе эмбеддингов. README указывает поддержку префиксов FRIDA, включая search_query: и search_document:, и приводит результаты по STS, идентификации перефразирований, выводу по тексту, анализу тональности и выявлению токсичности. Модель uncased: регистр букв не влияет на токенизацию. В приведённых сравнениях она уступает FRIDA по ряду метрик; максимальная длина контекста ограничена 512 токенами.

rubra-11b-h — диалоговая языковая модель на архитектуре Mistral, дообученная Sanjay920 на коде и разговорных данных. Она создана на основе mistralai/Mistral-7B-Instruct-v0.2 с целью улучшить рассуждения, сохранив способности исходной модели следовать инструкциям и вести диалог. Модель содержит 10,6 млрд параметров, использует формат весов safetensors и поддерживает контекст до 32 768 токенов; для чата применяются маркеры [INST] и [/INST]. Модель подходит для многошагового диалога, ответов на инструкции, рассуждений и генерации кода, а также для поиска сведений в длинном текстовом контексте. В README приведён пример успешного извлечения факта из документа длиной 14 334 токена, но это не гарантирует точность на других задачах. Модель всё ещё разрабатывается и не прошла выравнивание по безопасности, поэтому может выдавать предвзятые ответы. Лицензия — Apache-2.0.

Salience 1.5 Flash — мультимодальная модель Vection Labs для работы с текстом, изображениями и видео. Она построена на архитектуре Qwen3-VL Mixture-of-Experts: всего 30 млрд параметров, из которых для каждого токена активны около 3,3 млрд. Модель рассчитана на использование через Transformers и поддерживает контекст до 1 млн токенов; в README указан нативный контекст 256 тыс. токенов с расширением посредством interleaved multimodal RoPE. Модель предназначена для генерации и отладки кода, работы с репозиториями, создания интерфейсов, вызова инструментов и агентных сценариев. Она также принимает изображения и видео для ответов на вопросы и анализа диаграмм, графиков, документов и экранов, а длинный контекст подходит для анализа больших документов. Указаны поддержка английского языка, чата, кода и интерфейса вызова инструментов; аудио модель не поддерживает. Модель может ошибаться в фактах и математических рассуждениях, а сгенерированный код может быть неверным или небезопасным. Длинные контексты и видеовходы увеличивают задержку и расход памяти; результаты и код требуют проверки человеком. Лицензия — Apache-2.0.

Seed-Coder-8B-Instruct-GGUF — GGUF-квантизированная версия инструкционной модели Seed-Coder-8B-Instruct, разработанной ByteDance Seed и опубликованной в формате Unsloth. Это открытая модель для генерации и обработки программного кода, включая генерацию, рассуждение по коду, редактирование и задачи программной инженерии. Версия Instruct дообучена для лучшего следования пользовательским инструкциям. Модель представляет собой каузальную языковую модель примерно на 8 млрд параметров, прошедшую предобучение и постобучение на публичных и синтетических данных. Она поддерживает контекст длиной до 32 768 токенов и работает в текстовой модальности; конкретные языки программирования и перечень естественных языков в README не указаны. GGUF-формат предназначен для более удобного локального запуска с совместимыми средствами инференса, однако точные параметры квантования для этой карточки не приведены. К сильным сторонам относятся высокая эффективность среди открытых моделей сопоставимого размера, ориентация на широкий спектр задач программирования и подход к подготовке данных, основанный преимущественно на использовании LLM вместо большого числа ручных правил. Ограничения — отсутствие в предоставленных данных подробностей о поддерживаемых языках, требованиях к оборудованию, конкретном варианте квантования и результатах полной таблицы оценки. Лицензия MIT.