II.11Кибербезопасность и приватность

CodeLlama 13B Instruct — языковая модель для генерации и объяснения программного кода, разработанная Meta. В данном репозитории опубликованы её квантизированные файлы в формате GGUF, подготовленные TheBloke на основе оригинальной модели codellama/CodeLlama-13b-Instruct-hf. Модель предназначена для решения задач программирования по текстовому описанию, включая написание кода с учетом ограничений и примеров тестов. Она относится к семейству Llama, имеет размер 13 млрд параметров и работает в режиме text-generation. Указана модальность работы с текстом и кодом; конкретные языки программирования и максимальная длина контекста в README не перечислены. Для запросов рекомендуется шаблон CodeLlama с инструкцией в формате [INST]...[/INST]. Формат GGUF обеспечивает совместимость с llama.cpp и рядом пользовательских интерфейсов и библиотек, включая text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и другие. Доступны варианты квантизации от 2 до 8 бит для запуска с использованием CPU и GPU, что позволяет выбирать баланс между требованиями к памяти, скоростью и качеством. Ограничениями являются возможная потеря качества из-за квантизации и специализация прежде всего на задачах, связанных с кодом; сведения о результатах тестирования и производительности отсутствуют. Лицензия указана как Llama 2.

CodeQwen1.5-7B-Chat-GGUF — набор GGUF-квантизированных вариантов чат-модели CodeQwen1.5-7B-Chat от Qwen, подготовленный пользователем bartowski для запуска через llama.cpp. Модель относится к задачам генерации текста и ориентирована прежде всего на работу с программным кодом в диалоговом формате: написание, объяснение и редактирование кода, а также ответы на связанные с программированием запросы. В названии указано около 7 миллиардов параметров; точная архитектура, размер контекста и перечень поддерживаемых языков в предоставленных данных не описаны. В метаданных указан английский язык. Для диалога необходимо использовать шаблон с ролями system, user и assistant в формате специальных токенов Qwen. Репозиторий содержит варианты с разной степенью квантизации — от Q8_0 размером 7,70 ГБ до IQ1_S размером 2,36 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M и Q4_K_S отмечены как рекомендуемые; более компактные варианты экономят память, но могут заметно терять в качестве. Q8_0 обеспечивает наиболее высокое качество среди доступных вариантов, однако обычно не требуется. Ограничения модели включают зависимость качества от выбранной квантизации и отсутствие в README сведений о бенчмарках, мультимодальности и поддержке языков помимо заявленного английского. Указана лицензия other с названием tongyi-qianwen; подробные условия приведены в лицензии исходной модели Qwen. Квантизация выполнена с использованием llama.cpp и метода imatrix.

Это квантованная до формата MXFP4 версия мультимодальной модели Devstral-Small-2-24B-Instruct-2512. В README разработчиком исходной модели названа Mistral AI; архитектура — плотный трансформер Mistral3ForConditionalGeneration с 24 млрд параметров. Модель принимает текст и изображения, поддерживает контекст до 393 216 токенов и предназначена прежде всего для программирования, вызова инструментов и агентных сценариев. Квантование MXFP4 уменьшает размер весов: файл текстовой модели занимает 11,85 ГБ, а проектор изображения в формате F16 — 0,82 ГБ. README характеризует потерю качества как минимальную. Репозиторий распространяется по лицензии Apache 2.0. Для обработки изображений требуется vision-проектор mmproj; модель можно запускать через llama.cpp.

Devstral-Small-2-NVFP4-GGUF — квантизированная GGUF-сборка мультимодальной модели для программирования, разработанная Mistral AI и представленная в репозитории FreedomAISVR. В её основе — mistralai/Devstral-Small-2-24B-Instruct-2512: плотный трансформер Mistral3ForConditionalGeneration с 24 млрд параметров и контекстом до 393 216 токенов. Для работы с изображениями используется проектор mmproj на основе 24-слойного SigLIP ViT. Модель предназначена для генерации и анализа кода, диалогов с изображениями, вызова инструментов и агентных сценариев. Квантизация NVFP4 занимает около 12,52 ГБ для текстовых весов; файл проектора F16 занимает около 0,82 ГБ. Формат рассчитан на ускорение инференса на GPU NVIDIA Blackwell. Поддерживается многоязычное общение, однако конкретный перечень языков в карточке не приведён. Модель доступна по лицензии Apache 2.0. Квантизация может снизить качество относительно исходных весов; работа с изображениями требует отдельного файла проектора, а заявленное аппаратное ускорение NVFP4 ориентировано на Blackwell.

Карточка модели Alignment-Lab-AI/e5-mistral-7b-instruct на Hugging Face совпадает с карточкой intfloat/e5-mistral-7b-instruct, поэтому описание составлено по ней. E5-mistral-7b-instruct — текстовая модель эмбеддингов, созданная командой авторов статьи «Improving Text Embeddings with Large Language Models». Это дообученная версия Mistral-7B-v0.1 с 32 слоями и размерностью эмбеддингов 4096; число параметров — 7,1 млрд. Модель принимает текст и преобразует его в векторы для поиска и сравнения текстов. Она поддерживает контекст до 32 768 токенов, однако авторы не рекомендуют подавать входы длиннее 4096 токенов. Модель предназначена для получения эмбеддингов с инструкциями, задающими цель поиска или сравнения. Инструкцию следует добавлять к запросу, но не к документу. Примеры сценариев — семантический поиск, ранжирование passage по запросу и оценка сходства предложений. Модель обучена на смеси многоязычных наборов данных, но ориентирована прежде всего на английский; в некоторых многоязычных сценариях она уступает multilingual-e5-large. Модель распространяется по лицензии MIT. Для воспроизводимости результатов учитывайте, что версии Transformers и PyTorch могут вызывать небольшие различия в оценках.

google/electra-base-discriminator — англоязычный текстовый энкодер семейства ELECTRA, разработанный Google. Модель основана на Transformer и обучалась различать исходные токены текста и заменённые токены, сгенерированные другой нейросетью. Веса содержат 136,7 млн параметров, контекст — до 512 токенов; доступны версии для PyTorch, TensorFlow и Flax. Модель предназначена для тонкой настройки на задачи классификации текста, ответов на вопросы и разметки последовательностей, включая извлечение фрагментов текста. Это базовый дискриминаторный энкодер, а не готовая модель для генерации ответов: для прикладных задач обычно требуется соответствующая голова и дообучение. Лицензия — Apache 2.0.

Giga Embeddings 0826 3B GGUF — модель для получения текстовых эмбеддингов, основанная на ai-sage/Giga-Embeddings-instruct-3B-0826. GGUF-версии независимо конвертированы и квантованы командой ai-babai; это не официальный релиз ai-sage. Модель ориентирована прежде всего на русский и английский языки и предназначена для локального запуска через llama.cpp и Ollama. Модель подходит для семантического поиска, RAG, оценки сходства текстов, кластеризации, классификации и retrieval-сценариев. Она использует двунаправленную архитектуру, возвращает нормализованные эмбеддинги размерностью 2048 и применяет mean pooling, заданный в метаданных GGUF. Для поиска рекомендуется добавлять инструкцию к запросам, а документы кодировать как обычный текст; для симметричных задач следует использовать одинаковую инструкцию для обеих сторон или не использовать инструкции. Доступны варианты BF16, Q8_0, Q6_K и Q4_K_M. Q8_0 указан как рекомендуемый баланс качества и размера, BF16 является эталонной высокоточной версией, а Q4_K_M — экспериментальным облегчённым вариантом. Модель предназначена только для эмбеддингов и не генерирует текст. Приведённые авторами показатели MTEB относятся к исходной BF16-модели, тогда как полный независимый прогон MTEB для GGUF-версий не выполнялся. Модель распространяется по лицензии MIT.

GLM-4.6-REAP-252B-A32B — сжатая версия диалоговой языковой модели GLM-4.6, созданная командой Cerebras методом REAP (Router-weighted Expert Activation Pruning). Это причинная разреженная MoE-модель: из 160 экспертов удалены 30%, осталось 112; на токен активируются 8 экспертов. README указывает 252 млрд параметров всего и 32 млрд активных на токен, тогда как метаданные Hugging Face указывают 23,4 млрд параметров. Контекст — до 202 752 токенов. Модель предназначена для генерации текста и кода, агентных рабочих процессов, понимания больших репозиториев и вызова функций. Карточка заявляет производительность, близкую к исходной GLM-4.6, и снижение требований к памяти примерно на 30%; после однократного прореживания дополнительное дообучение не требуется. Указаны поддержка запуска через vLLM и английский язык. README предупреждает, что для BF16-версии оценки не приведены; результаты доступны для FP8-варианта. Лицензия — MIT.

GLM-4.6-REAP-268B-A32B — сжатая версия GLM-4.6 от Cerebras, созданная методом REAP (Router-weighted Expert Activation Pruning). Это причинная языковая модель со разреженной архитектурой Mixture-of-Experts: после удаления 25% экспертов в ней осталось 120 экспертов из 160; всего заявлено 268 млрд параметров и 32 млрд активируемых на токен. Модель принимает текст и предназначена для генерации текста и кода, рассуждений, работы с инструментами и агентных сценариев. Контекст составляет до 202 752 токенов; в метаданных указан английский язык. По данным карточки, сжатие сокращает объём модели примерно на 25% относительно исходной GLM-4.6 и сохраняет близкое качество генерации кода, вызова функций и агентных задач. Для запуска указана совместимость с vLLM. README не приводит результаты оценки для этой BF16-версии, поэтому заявления о качестве здесь основаны на описании автора. Лицензия — MIT.

Карточка модели manaladan6/GLM-5 на Hugging Face совпадает с карточкой zai-org/GLM-5, поэтому описание составлено по ней. GLM-5 — большая языковая модель семейства GLM, разработанная zai-org для сложных задач разработки систем и длительных агентных сценариев. Модель предназначена для генерации текста, рассуждений, программирования и взаимодействия с инструментами в диалогах. В README заявлена версия на 744 млрд параметров, из которых 40 млрд активны; репозиторий Hugging Face содержит 30,4 млрд параметров. Эти данные расходятся, поэтому размер конкретной опубликованной сборки нельзя однозначно определить. Архитектура в метаданных обозначена как glm_moe_dsa, формат весов — safetensors, а нативная длина контекста составляет 202 752 токена. Поддерживаются английский и китайский языки. README сообщает об интеграции DeepSeek Sparse Attention для снижения стоимости развёртывания при сохранении длинного контекста, а также о сильных результатах в рассуждениях, программировании и агентных задачах. Модель можно запускать через Transformers и ряд других фреймворков; для использования инструментов описана настройка сервера vLLM. Лицензия — MIT. Указанные в карточке результаты бенчмарков являются заявлениями разработчика; фактическая производительность зависит от сценария и конфигурации.

furiosa-ai/harrier-oss-v1-0.6b — производная версия мультиязычной модели эмбеддингов Harrier OSS v1 от Microsoft, подготовленная FuriosaAI для запуска на ускорителях RNGD с Furiosa-LLM. В основе лежит плотная decoder-only архитектура Qwen3; модель содержит 507,9 млн параметров и принимает текст, выдавая L2-нормированные векторы размерности 1024. Контекст — до 32 768 токенов. Модель предназначена для поиска по смыслу, кластеризации, оценки семантического сходства, классификации текстов, поиска параллельных текстов и ранжирования. Она учитывает инструкцию к задаче: для запросов рекомендуется добавлять краткое описание задачи в формате «Instruct: …\nQuery: …», а документы передавать без этой инструкции. Помимо Furiosa-LLM, исходная модель поддерживает запуск через Sentence Transformers и Transformers. Модель опубликована под лицензией MIT. В карточке указана поддержка многих языков, включая английский, арабский, китайский? [исправить]

Huihui-Qwen3.6-35B-A3B-abliterated-NVFP4 — квантованная версия модели Huihui-Qwen3.6-35B-A3B-abliterated, созданной huihui-ai на базе Qwen. Квантование NVFP4 выполнено Lna-Lab с использованием llm-compressor. Это мультимодальная MoE-модель для генерации текста и работы с изображениями, ориентированная прежде всего на агентное программирование, локальные AI-агенты, вызов инструментов и исследовательские сценарии. Модель содержит 35 млрд параметров, из которых при обработке активны около 3 млрд; используется архитектура Qwen3.5 MoE с 256 экспертами, гибридом Gated DeltaNet и attention, а также 8 маршрутизируемыми и одним общим экспертом. Поддерживается контекст до 262 144 токенов с возможностью расширения до 1 млн токенов. Визуальная часть сохранена в формате BF16. Заявлены результаты SWE-bench Verified 73,4 и Terminal-Bench 2.0 51,5, а скорость генерации достигает примерно 168 токенов в секунду на одной NVIDIA RTX PRO 6000 Blackwell. Ключевые преимущества — высокая скорость благодаря разреженной MoE-архитектуре, компактный размер около 21,9 ГБ, мультимодальность и сохранение возможностей для агентного кодинга. Ограничения связаны с аппаратной и программной совместимостью: требуется GPU NVIDIA Blackwell с поддержкой SM 120, около 22 ГБ видеопамяти и nightly-версия vLLM с CUDA 13.0; на Ampere и Hopper модель не работает. Модель abliteration обозначена как нецензурируемая, поэтому её следует использовать ответственно. Лицензия — Apache-2.0.

jina-embeddings-v3 — мультиязычная многозадачная модель текстовых эмбеддингов, разработанная Jina AI на основе архитектуры Jina-XLM-RoBERTa. Она преобразует текст в векторы для поиска, сопоставления и анализа сходства. Модель содержит пять LoRA-адаптеров для разных типов задач и поддерживает входные последовательности длиной до 8192 токенов благодаря Rotary Position Embeddings. Размер эмбеддинга можно выбирать из вариантов от 32 до 1024 измерений. Модель предназначена для векторизации запросов и документов в поисковых системах, кластеризации, классификации и оценки сходства текстов. Для асимметричного поиска предусмотрены отдельные режимы для запросов и документов; другие режимы ориентированы на разделение текстов, классификацию и сопоставление. Настройка модели охватывает 30 языков, включая русский, а базовая модель поддерживает 100 языков. Для получения векторов на уровне предложения или абзаца при прямой интеграции требуется усреднение представлений токенов. Модель доступна в форматах PyTorch, Safetensors и ONNX; для использования через Transformers указана библиотека Transformers. Лицензия CC-BY-NC-4.0 ограничивает коммерческое применение. В README также отмечено, что исправлена ошибка предыдущей версии кода, при которой усечение Matryoshka-векторов после нормализации давало ненормализованные векторы.

jina-embeddings-v3-hf — мультиязычная модель эмбеддингов текста от Jina AI на архитектуре Jina-XLM-RoBERTa. Она преобразует текст в векторы для поиска по смыслу, сопоставления текстов, кластеризации и классификации. Для разных сценариев предусмотрены пять адаптеров LoRA: retrieval_query, retrieval_passage, separation, classification и text_matching. Модель содержит 658,7 млн параметров и принимает последовательности длиной до 8192 токенов. Matryoshka-эмбеддинги позволяют выбирать размер вектора от 32 до 1024 измерений. Модель ориентирована на 30 языков, включая русский, английский, китайский, арабский и хинди; исходная архитектура поддерживает более широкий набор языков. Доступны веса в форматах Safetensors и ONNX, а карточка описывает использование через Transformers и Sentence Transformers. Модель подходит для семантического поиска, извлечения документов, сравнения текстов и подготовки векторных признаков для последующей классификации или кластеризации. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование.

jina-embeddings-v5-text-nano-text-matching-mlx — порт модели jina-embeddings-v5-text-nano-text-matching для эффективного инференса на компьютерах Apple Silicon. Это плотная модель семейства EuroBERT с 211,7 млн параметров и контекстом до 8192 токенов; в README указан размер 239 млн параметров. Модель предназначена для сопоставления текстов и извлечения признаков, например для оценки семантического сходства и поиска релевантных текстов. Модель поддерживает многоязычный ввод. Репозиторий использует библиотеку MLX и формат safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.

Abiray/KAT-Coder-V2.5-Dev-Imatrix-GGUF — набор GGUF-квантизаций модели KAT-Coder-V2.5-Dev, разработанной командой KwaiKAT и основанной на Qwen3.6-35B-A3B. Это текстовая open-weight модель-кодировщик с архитектурой Mixture-of-Experts: всего 35 млрд параметров, из которых 3 млрд активируются для каждого токена. Репозиторий содержит версии с 3-, 4-, 5-, 6- и 8-битной квантизацией, оптимизированные с помощью importance matrix для сохранения качества при уменьшении требований к памяти. Модель предназначена для агентного программирования, генерации и анализа кода, автоматизации задач разработки и работы с инструментами в многошаговых сценариях. Она поддерживает английский и китайский языки, работает только с текстом и не включает компоненты для зрения или других мультимодальных режимов. Доступный контекст может достигать 262 144 токенов при использовании совместимого ПО, например llama.cpp. Среди заявленных сильных сторон — результаты на SWE-bench Verified до 69,40%, поддержка сохранения исторического контекста рассуждений и снижение повторов, нештатных вызовов инструментов и зацикливания. К ограничениям относятся необходимость значительных ресурсов даже для квантизированных вариантов, зависимость качества и скорости от выбранного уровня квантизации и отсутствие мультимодальности. Модель распространяется по лицензии Apache-2.0.

Kiwen1.2-27B — дообученная языковая модель с 27 миллиардами параметров, созданная разработчиком beyoru на основе Qwen3.8-27B. Модель обучалась на длинных рассуждениях из Kimi K3 с применением RLVR и ориентирована на улучшение качества рассуждений, следования инструкциям и надёжности выполнения задач. Модель предназначена для математических и логических задач, программирования, использования инструментов, агентских сценариев и других задач, требующих последовательного рассуждения. Она поддерживает режимы с включённым и отключённым анализом: режим рассуждений рекомендуется для сложных задач, а отключение — для извлечения данных, классификации и форматирования. В README указана возможность работы с контекстом до 262 144 токенов при использовании SGLang, однако сведения о языковом охвате и фактических мультимодальных возможностях не приведены. Заявленное преимущество модели — сочетание относительно компактного размера с акцентом на reasoning, coding, tool use и instruction following; во внутреннем тесте из 100 агентских задач она показала результат 81,2%. Эти показатели не подтверждены независимым публичным бенчмарком. Ограничением является отмеченное разработчиком снижение качества при использовании с dflash2; также в карточке нет подробных данных об архитектуре, датасетах и результатах на стандартных тестах. Модель распространяется по лицензии Apache-2.0 и основана на Qwen3.8-27B, также выпущенной под Apache-2.0.

Laguna XS 2.1 — языковая модель Poolside для агентного программирования и длительных рабочих сценариев на локальном компьютере. Это текстовая модель text-to-text, представленная в формате GGUF для llama.cpp и совместимая с vLLM и SGLang. Она предназначена прежде всего для задач разработки программного обеспечения, включая работу с терминалом, вызов инструментов и многошаговое выполнение задач. Модель использует архитектуру Mixture-of-Experts: 33 млрд параметров всего, из которых 3 млрд активируются на каждом токене. В ней 40 слоёв, 256 экспертов и один общий эксперт; 30 слоёв используют sliding window attention с окном 512 токенов, а 10 — глобальное внимание. Поддерживаются интерleaved reasoning между вызовами инструментов, сохранение рассуждений и включение или отключение режима рассуждений для отдельных запросов. Контекстное окно составляет до 262 144 токенов, а KV-кэш хранится в формате FP8 для снижения требований к памяти. К сильным сторонам относятся сочетание большого общего числа параметров с малым числом активных параметров, поддержка длинного контекста, инструментального взаимодействия и локального запуска. Для локального использования рекомендована квантизация Q4_K_M размером 20,3 ГБ; полноточная версия BF16 занимает 66,9 ГБ. Ограничением является то, что поддержка Laguna XS 2.1 на момент публикации README ещё не включена в основную ветку llama.cpp и требует сборки из специальной ветки или pull request. Модель рассчитана на программную инженерию и агентные сценарии, поэтому её пригодность для других задач следует проверять отдельно. Модель распространяется по лицензии OpenMDW-1.1, допускающей свободное использование и модификацию модели и связанных материалов в коммерческих и некоммерческих целях при соблюдении условий лицензии и политики допустимого использования Poolside.

LongCat-2.0 — большая языковая модель семейства LongCat, представленная разработчиками проекта LongCat. Это модель архитектуры MoE с классом LongcatCausalLM; в метаданных репозитория указано 42,1 млрд параметров, тогда как README описывает полную версию с 1,6 трлн параметров и примерно 48 млрд активируемых на токен. Репозиторий содержит веса в формате safetensors и использует лицензию MIT. Модель предназначена для диалоговой генерации текста, программирования, понимания кода и репозиториев, выполнения задач агентами и работы с инструментальными сценариями. README сообщает об обучении на данных с контекстом до 1 млн токенов и об архитектурном механизме LongCat Sparse Attention для длинных последовательностей; метаданные указывают нативный контекст 262 144 токена. В карточке также заявлены чат и интерфейс вызова инструментов. README особо выделяет задачи с длинным горизонтом, редактирование кода на уровне репозитория и автоматизацию действий; развёртывание описано для GPU и NPU. Модель не оценивалась всесторонне для всех возможных прикладных сценариев. Условия лицензии — MIT.

Longformer-base-4096 — плотная модель семейства Longformer, разработанная Allen Institute for Artificial Intelligence (AI2). Это BERT-подобный трансформер, инициализированный из чекпойнта RoBERTa и предварительно обученный на задаче masked language modeling на длинных документах. Модель содержит 151,8 млн параметров и принимает последовательности длиной до 4096 токенов. Архитектура сочетает скользящее локальное внимание с глобальным вниманием, которое задаётся пользователем в зависимости от задачи. Модель предназначена для анализа длинных текстов и построения специализированных представлений; кодовые примеры и описание механизма внимания приведены в материалах проекта. Поддерживаемый язык — английский. Доступны форматы PyTorch и TensorFlow. Модель подходит как основа для задач понимания длинных документов, но настройка глобального внимания зависит от конкретного сценария. Лицензия — Apache-2.0.

mxbai-embed-large-v1-gguf — модель для построения векторных представлений предложений и текстов, разработанная MixedBread AI и преобразованная в формат GGUF пользователем ChristianAzinn. В основе лежит модель mxbai-embed-large-v1 архитектуры BERT, обученная с использованием функции потерь AnglE на большом высококачественном наборе данных. Модель ориентирована на англоязычные тексты и предназначена для семантического поиска, сравнения текстов, кластеризации, извлечения признаков и других задач, где используются sentence embeddings. Модель поддерживает контекст до 512 токенов и поставляется в вариантах GGUF с квантованием от 2 до 8 бит, а также в FP16 и FP32. Файлы совместимы с llama.cpp и LM Studio при указанных в README версиях. Квантование позволяет снизить требования к памяти, однако варианты с малым числом бит могут существенно ухудшать качество; наиболее сбалансированными авторами названы Q4_K_M, Q5_K_S, Q5_K_M и Q8_0. Размер исходной модели и точное число параметров в README не указаны. Модель сильна в задачах семантического представления текста и заявлена как обеспечивающая высокие результаты на бенчмарках уровня BERT-large. Ограничения включают поддержку только английского языка, ограничение контекста 512 токенами и возможную потерю качества при агрессивном квантовании. Модель распространяется по лицензии Apache-2.0.

NeoHorse-1-4B-GGUF — GGUF-версии примерно 4-миллиардной причинной языковой модели NeoHorse-1-4B, разработанной TokenRhythm на базе Qwen3.5-4B. Модель дообучалась для текстовых агентных сценариев, использования инструментов, программирования, рассуждений и следования инструкциям. Это текстовая модель без заявленной поддержки изображений или других мультимодальных данных. Репозиторий предназначен для локального запуска через llama.cpp, Ollama и LM Studio. Доступны веса в формате BF16, а также 8-, 5- и 4-битные квантизованные варианты, которые требуют меньше дискового пространства и оперативной памяти. Архитектура описана как агентно-ориентированная причинная языковая модель; размер контекста и поддерживаемые языки в README не указаны. К сильным сторонам относятся ориентация на агентное взаимодействие и tool use, задачи программирования и instruction following, а также заявленное улучшение среднего результата на десяти бенчмарках по сравнению с Qwen3.5-4B: 64,87 против 58,94. Ограничения включают отсутствие подробных сведений о языках, контексте и характеристиках отдельных квантизаций; заявленные результаты могут зависеть от условий оценки. Модель распространяется по лицензии Apache-2.0.

Mungert/NextCoder-14B-GGUF — это GGUF-версия кодовой языковой модели NextCoder-14B, разработанной Microsoft на базе Qwen2.5-Coder-14B-Instruct. Модель предназначена для генерации и редактирования программного кода, включая исправление функций, работу с разнообразными изменениями в коде и чатовые сценарии. Она обучалась с применением метода SeleKT (Selective Knowledge Transfer), ориентированного на адаптацию моделей к задачам редактирования кода, без потери общей применимости. Модель является авторегрессионной causal language model с архитектурой на базе Transformers, RoPE, SwiGLU, RMSNorm и GQA с 40 головами для запросов и 8 для ключей и значений. Она содержит около 14,7 млрд параметров, из которых 13,1 млрд — без учёта embedding, и 48 слоёв. Заявлена поддержка контекста до 32K токенов; в карточке указан английский язык. GGUF-файлы созданы с помощью llama.cpp и используют экспериментальный подход с повышением точности отдельных важных слоёв, что может улучшать качество при заданном уровне квантования, но увеличивает размер файла. Ограничения включают зависимость качества и требований к ресурсам от выбранного варианта квантования; конкретный вариант квантования в карточке не указан. Модель распространяется по лицензии MIT.

mlx-community/Qwen2.5-Coder-32B-Instruct-bf16 — конверсия модели Qwen/Qwen2.5-Coder-32B-Instruct в формат MLX, выполненная сообществом mlx-community с помощью mlx-lm 0.19.3. Это плотная авторегрессионная модель семейства Qwen2 с 32 млрд параметров, предназначенная для генерации кода и диалогового взаимодействия с инструкциями. Она может применяться для написания и объяснения кода, его анализа и исправления, а также для создания кодовых агентов. Контекст модели — до 32 768 токенов; вход и выход представлены текстом. Модель рассчитана на работу с кодом и поддерживает английский язык. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Это преобразованная копия базовой модели, а не самостоятельное дообучение.

Это дообученная языковая модель DavidAU на базе Qwen3-30B-A3B-Thinking-2507 с адаптером Brainstorm 20X. Она предназначена для диалогов, рассуждений, генерации текста и особенно для написания, анализа и отладки кода на популярных и менее распространённых языках программирования. Модель использует архитектуру MoE; в README указаны 42 млрд параметров, 67 слоёв и контекст до 256 тыс. токенов. Метаданные каталога указывают 3,5 млрд параметров, поэтому оценки общего размера в источниках расходятся. Модель принимает текст и выдаёт текст. Карточка описывает её как универсальную, с поддержкой длинного контекста и режима рассуждений; языковые теги метаданных — английский, французский, китайский и немецкий. Репозиторий содержит веса в SafeTensors и допускает использование через Transformers; лицензия — Apache-2.0. README также описывает исходные веса как источник для преобразования в другие форматы, но это не меняет указанный формат файлов репозитория.

DavidAU/Qwen3-53B-A3B-2507-TOTAL-RECALL-v2-MASTER-CODER — дообученная на базе Qwen/Qwen3-30B-A3B-Instruct-2507 модель для генерации текста и диалогов. Автор позиционирует её как универсальную, с особым упором на программирование и решение задач на коде. Указаны 53 млрд параметров, 84 слоя и архитектура MoE с 128 экспертами и 8 активируемыми экспертами; модель распространяется в формате safetensors и совместима с Transformers. Модель рассчитана на контекст до 262 144 токенов. Она поддерживает несколько языков, а в метаданных перечислены английский, французский, китайский и немецкий. Базовый режим — без рассуждений; автор предлагает опциональный системный промпт для включения специального режима «thinking». Модель может использоваться в диалогах, генерации и объяснении кода, работе с длинными контекстами и сценариях с вызовом инструментов. Лицензия — Apache-2.0. Карточка не приводит независимых оценок именно этой производной версии, поэтому заявленное превосходство в программировании следует считать описанием автора; качество и скорость могут зависеть от выбранного числа активных экспертов и способа запуска.

unsloth/Qwen3.6-27B-MTP-GGUF — квантованный формат модели Qwen3.6-27B, разработанной командой Qwen; сборка и GGUF-квантизация предоставлены Unsloth. Это открытая модель с лицензией Apache-2.0, предназначенная для локального запуска и интеграции через llama.cpp, Unsloth Studio и другие совместимые инструменты. Она ориентирована прежде всего на агентное программирование, работу с интерфейсами и репозиториями, итеративную разработку с сохранением контекста рассуждений, а также вызов инструментов. Модель представляет собой каузальную языковую модель с vision encoder и поддерживает текстовые и визуальные сценарии. Размер языковой части — 27 млрд параметров; архитектура включает 64 слоя, комбинацию Gated DeltaNet и Gated Attention, а также multi-token prediction (MTP), обученную на нескольких шагах. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Языки в README не указаны. Ключевое преимущество MTP — заявленное ускорение инференса примерно в 1,5–2 раза без потери точности. Модель поддерживает запуск на GPU, CPU и Metal, однако для MTP в llama.cpp пока не поддерживаются параллельные последовательности с np > 1 и мультимодальный проектор mmproj. При больших окнах контекста возможен повышенный расход памяти; README рекомендует уменьшать контекст при нехватке памяти, сохраняя по возможности не менее 262 144 токенов.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-NEO-CODER-NVFP4 — языковая модель на базе Qwen3.8-27B, созданная DavidAU и подготовленная, квантизированная и упакованная командой Solstice-AI. Модель предназначена для программирования, агентной разработки ПО, отладки репозиториев, решения задач с длинным контекстом и автоматизации действий в настольных и мобильных средах. Заявлена поддержка английского и китайского языков. Модель использует формат NVIDIA NVFP4 и рассчитана прежде всего на ускоренное выполнение на оборудовании NVIDIA Blackwell, включая B200, GB200 и RTX 5090; также заявлена совместимость с RTX 4090. Архитектура описана как гибридная: около 75% слоёв используют линейное внимание Gated Delta Recurrent Network, а около 25% — глобальное Grouped-Query Attention. Заявлены нативный контекст до 262 144 токенов, Multi-Token Prediction с генерацией двух токенов за проход и дополнительная мультимодальность для обработки изображений и видеокадров через компонент mmproj-BF16.gguf. Сильными сторонами по данным README считаются задачи программной инженерии, рассуждения, следование сложным ограничениям и длительные многофайловые сценарии; приведены высокие результаты на SWE-bench Pro, LiveCodeBench v6, QwenSWEBench, OSWorld-Verified, AndroidWorld, IFBench и ARC. Эти результаты заявлены авторами модели и не являются независимой гарантией качества. Ограничения включают зависимость от поддерживаемого NVFP4-стека и специализированного оборудования, а также потенциальные риски, связанные с заявленным удалением ограничивающих отказов в рамках Project Heretic. Лицензия указана как Apache-2.0.

AnonimousA/Qwen3.8-Flash-Next-REAP-320-GGUF — неофициальная общественная производная модели Qwen3.8-Flash-Next, не связанная с Alibaba или командой Qwen. Это текстовая генеративная MoE-модель с прореживанием: число экспертов на слой уменьшено с 512 до 320. Доступны GGUF-квантизации семейства UD-Q3_K_XL объёмом около 64,2 GiB и Q2-вариант объёмом около 57,3 GiB. Отбор экспертов выполнен по много-доменному корпусу, включавшему агентские сценарии, код, диалоги, математику и тексты. Сведения о языках, размере контекстного окна и точной общей архитектуре в карточке не указаны. Модель ориентирована на генерацию текста, программирование и использование в условиях ограниченной видеопамяти, где важны размер, скорость предварительного заполнения и возможность размещения вычислений на GPU. Для основной версии заявлены результаты HumanEval 96,3%, 9 из 10 успешных генераций в тесте редких имён и ускорение prefill примерно на 23% относительно указанного базового варианта; Q2-версия может полностью размещаться на видеокарте с 32 ГБ. Ограничение — потеря части мировых знаний из-за прореживания: в тесте из 12 вопросов доля фабрикаций составила 25%, поэтому модель менее предпочтительна для универсального ассистента, ориентированного на фактическую осведомлённость. Лицензия указана как qwen-community-license-1.0.

unsloth/Qwen3-Coder-30B-A3B-Instruct-1M-GGUF — GGUF-версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen и подготовленной Unsloth. Это каузальная языковая модель для генерации текста и кода, ориентированная на агентное программирование, использование браузера и другие задачи разработки ПО, включая работу с репозиториями большого размера и интеграцию с инструментами вроде Qwen Code и CLINE. Модель построена на Mixture-of-Experts-архитектуре: содержит 30,5 млрд параметров, из которых при генерации активируется около 3,3 млрд; включает 48 слоёв, 128 экспертов и 8 активируемых экспертов, а также Grouped Query Attention с 32 головами для запросов и 4 для ключей и значений. Нативная длина контекста составляет 262 144 токена, а в данной версии заявлено расширение до 1 млн токенов с использованием YaRN. Поддерживается только режим без рассуждений: модель не генерирует блоки <think></think>. Сведения о поддерживаемых языках и точных параметрах квантования в README не указаны. К сильным сторонам относятся высокая эффективность за счёт разреженной активации экспертов, специализация на кодинге и агентных сценариях, а также поддержка сверхдлинного контекста. Ограничения включают работу только в нережиме рассуждений и потенциальную зависимость качества и требований к ресурсам от конкретной GGUF-квантизации, параметры которой не приведены. Модель распространяется по лицензии Apache 2.0.