II.11Кибербезопасность и приватность

gdubicki/Qwen3-Coder-Next-NVFP4-GB10 — публичное зеркало модели saricles/Qwen3-Coder-Next-NVFP4-GB10 с побайтно идентичными весами. В основе лежит Qwen3-Coder-Next, разработанная Alibaba и командой Qwen; NVFP4-квантизацию выполнил saricles с использованием LLM Compressor и калибровки на части набора ultrachat_200k. Модель предназначена прежде всего для генерации кода и развёртывания через Transformers или vLLM, в частности на системах DGX Spark с GPU GB10. Модель использует гибридную архитектуру qwen3_next: 48 слоёв, включая 36 слоёв с линейным вниманием DeltaNet и 12 слоёв с полным вниманием, а также latent MoE с 512 экспертами, из которых для каждого токена активны 10 экспертов и один общий. Всего модель содержит 79,7 млрд параметров, при этом около 3 млрд активны на токен. Квантизация NVFP4 уменьшает размер на диске до 45,9 ГБ; отдельные компоненты сохранены в BF16, а KV-кэш для слоёв полного внимания поддерживает FP8. Максимальная длина контекста составляет 262 144 токена, заявлен язык English. Сильными сторонами являются большой контекст, низкое число активных параметров на токен, сниженные требования к памяти и отсутствие KV-кэша у слоёв DeltaNet. На DGX Spark заявлены скорость около 61 токена в секунду для одного запроса и до примерно пяти одновременных сессий при максимальном контексте. Ограничения включают зависимость от совместимого NVFP4/Marlin-стека и специализированного оборудования; приведённые показатели относятся к конфигурации DGX Spark с vLLM и не гарантируют аналогичную производительность в других средах. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Qwen3-Coder-Next.w4a16 — квантизированная версия языковой модели Qwen3-Coder-Next, разработанная Red Hat на базе модели Qwen/Qwen3-Coder-Next. Это авторегрессионная модель архитектуры Qwen3NextForCausalLM с текстовым вводом и текстовым выводом, предназначенная прежде всего для генерации и анализа кода, а также для развертывания в сценариях, поддерживающих вызов инструментов. Модель использует схему W4A16: веса линейных операторов в блоках Transformer представлены в формате INT4, а активации — FP16. Такая оптимизация сокращает число битов на параметр с 16 до 4 и приблизительно на 75% уменьшает требования к дисковому пространству и памяти GPU. README не содержит сведений о размере модели, поддерживаемых языках программирования и естественных языках, максимальной длине контекста или мультимодальных возможностях. Основное преимущество модели — существенное снижение требований к памяти при сохранении высокой эффективности на задачах программирования. В оценке SWE-Bench Lite она получила результат 48,67 против 49,33 у исходной Qwen3-Coder-Next, что соответствует восстановлению 98,6% исходного показателя. Ограничением является возможная небольшая потеря точности из-за квантизации, а также зависимость рекомендуемого развертывания от совместимой инфраструктуры, например vLLM и Tensor Parallel. Модель распространяется по лицензии Apache-2.0. Для квантизации использовалась библиотека llm-compressor и алгоритм GPTQ; в README приведён пример развертывания через vLLM с поддержкой автоматического выбора инструментов и парсера вызовов Qwen3 Coder.

Qwopus3.5-9B-v3 — языковая reasoning-модель, разработанная Jackrong на базе unsloth/Qwen3.5-9B. Она дообучена с акцентом на повышение стабильности и корректности рассуждений, а также эффективности вывода; в описании проекта упоминаются reasoning distillation, структурное выравнивание и применение Unsloth. Основная специализация — программирование, решение задач и сценарии, где важны последовательные рассуждения и обобщение между типами задач. Модель относится к классу 9B и заявлена для работы с английским, китайским и корейским языками. В карточке также указан pipeline image-text-to-text, однако подробности о поддерживаемых визуальных входах и мультимодальной архитектуре не приведены. Точная длина контекста, формат квантованных вариантов и другие характеристики инференса не указаны. Для оценки заявлены результаты HumanEval: 87,80% base pass@1 и 82,93% plus pass@1 на 164 задачах, но результаты получены авторами модели в описанных ими условиях и не гарантируют аналогичную эффективность в других сценариях. Сильными сторонами модели являются ориентация на программирование, улучшенные показатели на указанном тесте относительно Qwen3.5-9B и стремление к более коротким и стабильным цепочкам рассуждений. Ограничения включают отсутствие полной информации о качестве на широком спектре задач, контекстном окне, требованиях к ресурсам и возможностях мультимодальной обработки. Модель распространяется по лицензии Apache-2.0.

Rebekah AI 1.8B — плотная авторегрессионная языковая модель семейства LLaMA, разработанная Next GenAi Mexico для локального запуска и работы на периферийных системах. Модель ориентирована на агентные сценарии, вызов инструментов, диагностику Linux-инфраструктуры и системное администрирование без обращения к облачным API. В карточке заявлены результаты тестов на генерацию кода, математические рассуждения и общие знания; эти показатели приведены авторами модели. Модель содержит около 1,9 млрд параметров, использует архитектуру decoder-only causal transformer и поддерживает контекст до 8192 токенов. README описывает обучение на англоязычных и испаноязычных технических данных, включая материалы по системам, программированию и математике. Модель принимает текст и генерирует текст, в том числе код и ответы для агентных рабочих процессов. Модель распространяется с открытыми весами по лицензии Apache 2.0, допускающей коммерческое использование, изменение и распространение. Карточка заявляет ориентацию на одиночный GPU и локальные развёртывания; качество ответов и выполнения инструментов может зависеть от конкретной задачи и настройки интеграции.

speechless-code-mistral-7b-v1.0-Mistral-7B-Instruct-v0.2-slerp — объединённая методом SLERP модель MaziyarPanahi на архитектуре Mistral, созданная из mistralai/Mistral-7B-Instruct-v0.2 и uukuguy/speechless-code-mistral-7b-v1.0. Она предназначена для диалоговой генерации текста и ответов на инструкции, включая задачи, связанные с программным кодом. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. Метаданные указывают Apache-2.0; веса доступны в формате safetensors. Данные карточки не уточняют языки, на которых модель лучше всего работает, и не приводят отдельной оценки качества или ограничений по задачам.

MaziyarPanahi/speechless-code-mistral-7b-v2.0-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая модель на архитектуре Mistral, созданная методом SLERP из Mistral-7B-Instruct-v0.2 и speechless-code-mistral-7b-v2.0. Она предназначена для генерации текста и ответов на инструкции, с акцентом на задачи программирования благодаря одной из исходных моделей. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст; метаданные отмечают поддержку чата. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Карточка не описывает специальные языковые ограничения или результаты оценки качества, поэтому пригодность для конкретного языка и точность ответов о коде могут различаться.

Speechless Tora Code 7B v1.0 GGUF — это языковая модель для генерации текста и программного кода, разработанная Jiangwen Su и квантованная TheBloke в формате GGUF. Модель основана на архитектуре Llama и содержит около 7 млрд параметров. В карточке указан английский язык, а исходный вариант доступен в формате PyTorch FP16. GGUF-файлы предназначены для локального запуска с использованием llama.cpp и совместимых интерфейсов и библиотек, включая text-generation-webui, LM Studio, KoboldCpp, ctransformers и llama-cpp-python. Модель ориентирована на программирование, генерацию кода и выполнение инструкций в текстовом формате. При обучении использовались наборы данных jondurbin/airoboros-2.2, Open-Orca/OpenOrca, garage-bAInd/Open-Platypus, WizardLM/WizardLM_evol_instruct_V2_196k и TokenBender/python_eval_instruct_51k. Для HumanEval указан результат pass@1 51,829%, однако он отмечен как непроверенный. Данные о размере контекста, поддерживаемых модальностях и специализированных языках программирования не приведены. Ключевое преимущество версии GGUF — возможность запуска на CPU и GPU с различными уровнями квантования от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Ограничения включают возможную потерю качества из-за квантования, отсутствие подтверждённых результатов оценки и неизвестный размер контекста. В карточке указана лицензия llama2.

Stable Code 3B — авторегрессионная языковая модель Stability AI на основе decoder-only Transformer, близкой к архитектуре LLaMA, с реализацией через GPT-NeoX. Модель содержит около 2,7 млрд параметров и предварительно обучена на 1,3 трлн токенов текстовых и программных данных, включая наборы Falcon RefinedWeb, The Stack GitHub Issues, CommitPackFT, StarCoderData, Proof-Pile-2 и MetaMathQA. Модель предназначена прежде всего для генерации, дополнения и анализа программного кода. Она обучалась на 18 языках программирования и поддерживает сценарий Fill in the Middle (FIM), что позволяет вставлять фрагменты кода между заданными началом и концом. Заявлена поддержка последовательностей длиной до 16 384 токенов. В README явно указаны английский язык и код; сведения о мультимодальности отсутствуют, поэтому модель следует рассматривать как текстовую. В опубликованных результатах MultiPL-E pass@1 модель показывает 32,4% для Python, 30,9% для C++, 32,1% для Java и JavaScript, 24,2% для PHP и 23,0% для Rust. Эти показатели заявлены как конкурентные среди моделей сопоставимого размера, однако отмечены как непроверенные. Ограничениями являются относительно небольшой размер по сравнению с крупными code-моделями, возможные ошибки и небезопасность генерируемого кода, а также отсутствие подтверждений качества для всех 18 поддерживаемых языков. Модель распространяется по Stability AI Community License. Для коммерческого использования README рекомендует обращаться к условиям коммерческой лицензии Stability AI; конкретные требования в карточке не приведены.

Stable Code Instruct 3B — авторегрессионная языковая модель на основе декодерной архитектуры Transformer, разработанная Stability AI и дообученная на базе stable-code-3b. Модель содержит около 2,7 млрд параметров и оптимизирована для работы с английским языком, программным кодом и инструкциями. Модель предназначена для диалоговых задач в software engineering, генерации и объяснения кода, решения задач программирования, а также генерации SQL и общения по вопросам, связанным с базами данных. Она поддерживает сценарии текстового ввода и вывода, включая работу с несколькими языками программирования, среди которых Python, C++, Java, JavaScript, PHP и Rust. Дообучение выполнялось на общедоступных и синтетических наборах данных с применением Direct Preference Optimization (DPO), что ориентировано на более эффективное следование инструкциям. К сильным сторонам относятся компактный размер для локального развертывания и заявленная высокая производительность среди моделей сопоставимого размера на тестах MultiPL-E и кодовой части MT-Bench. В README приведены результаты pass@1 для разных языков, однако они не были независимо подтверждены. Модель ограничена английским языком и текстовой модальностью; качество сгенерированного кода требует проверки и тестирования, а сравнительные результаты зависят от методики оценки. Модель распространяется по StabilityAI Community License; для коммерческого использования необходимо обратиться к условиям коммерческой лицензии Stability AI.

Tiel-Coder-35B-A3B-MLX-oQ4e-MTP — локальная кодовая модель, опубликованная peculiar-ragdoll. Она основана на Ornith-1.5-35B-A3B от ornith-ai и представляет собой его повторно квантизированную версию с помощью oMLX oQ4e, встроенным Sharp chat template и обученной головой multi-token prediction (MTP). Модель относится к семейству MoE с заявленным размером 35B-A3B, поддерживает текстовые и визуальные входы, а среди языков указаны английский и китайский. Размер контекста в README не указан. Модель предназначена прежде всего для agentic coding: исправления реальных проблем в кодовых базах, работы с репозиториями и длительных многоходовых диалогов. По приведённым измерениям GGUF-версии она показывает сильные результаты в SWE-bench-Live и multi-turn задачах, однако эти показатели нельзя напрямую считать результатами данного MLX-файла. Для экзаменационных знаний, викторин и сложного общего рассуждения модель подходит хуже: в README отдельно отмечены слабые результаты на trivia и более низкий показатель MMLU-Pro по сравнению с альтернативной моделью Nail. Для работы с MTP-версией рекомендуется runtime oMLX на Apple Silicon; зрение включено в тот же каталог, отдельный projector-файл не требуется. LM Studio для этой сборки не поддерживается: его MLX-движок некорректно исполняет MTP head и генерирует бессмысленный многоязычный текст. Для LM Studio следует использовать GGUF-версию или MLX-сборку без MTP. Лицензия — MIT.

xipho/bert-finetuned-ner — модель на базе BERT, дообученная для распознавания именованных сущностей и другой токенной классификации. Она принимает текст и присваивает метки его токенам; размер модели — 135,5 млн параметров, максимальный контекст — 512 токенов. Модель распространяется в формате Safetensors и использует библиотеку Transformers. В карточке указаны результаты на тестовой выборке: F1 — 0,9427, точность — 0,9351, полнота — 0,9504 и accuracy — 0,9865. Датасет и набор меток не описаны, поэтому эти показатели нельзя напрямую переносить на другие данные или задачи. Базовая модель — google-bert/bert-base-cased; лицензия — Apache-2.0.

CobrIX-1.0-Coder-Flash-33B-A13B — диалоговая языковая модель CobrIX на архитектуре Qwen 3.5 MoE, собранная на основе empero-ai/Qwythos-9B-v2 и пяти дообученных экспертов Qwen 3.5. По README, в модели 33 млрд параметров, из которых активно 13 млрд на токен; метаданные указывают 7,2 млрд параметров. Заявленное нативное окно контекста — 1 048 576 токенов. Модель предназначена для генерации кода и диалогов; метаданные подтверждают задачу text-generation и возможность чата. В MoE-блоках используется маршрутизация top-2 к пяти экспертам и общий эксперт. Указана лицензия MIT. README описывает проект как ранний доступ, а размещённая модель — как экспериментальную сборку.

crane-30b-i1-GGUF — это квантованная версия модели crane-30b, разработанной пользователем или организацией zmzfpc и опубликованной в формате GGUF пользователем mradermacher. По метаданным, модель связана с объединением моделей, семейством Qwen3, архитектурой MoE и задачами генерации кода и рассуждений. Указан английский язык. Точное число активных и общих параметров, размер контекста, поддерживаемые модальности и подробности исходного обучения в README не приведены. Модель предназначена для локального запуска через совместимые инструменты, поддерживающие формат GGUF, включая различные варианты квантования с разным компромиссом между размером, скоростью и качеством. Доступны файлы размером примерно от 6,5 до 25,2 ГБ; среди рекомендуемых вариантов отмечен i1-Q4_K_M как быстрый, а i1-Q4_K_S — как сбалансированный по размеру, скорости и качеству. Низкобитные варианты могут заметно уступать в качестве, тогда как i1-Q6_K заявлен как практически сопоставимый со статическим Q6_K. В репозитории также доступен imatrix-файл для самостоятельного создания квантованных версий. Лицензия модели указана как Apache-2.0. README не содержит результатов бенчмарков, подробной документации по применению, системного промпта или ограничений исходной модели, поэтому качество на конкретных задачах и точные требования к аппаратным ресурсам следует оценивать отдельно.

gliner-community/gliner_medium-v2.5 — мультиязычная модель распознавания именованных сущностей из семейства GLiNER, разработанного Urchade Zaratiana, Ihor Stepanov, Nadi Tomeh, Pierre Holat и Thierry Charnois. Она использует двунаправленный энкодер на основе трансформера BERT и позволяет извлекать сущности типов, заданных пользователем, вместо работы только с фиксированным набором классов. Модель предназначена для разметки текста и извлечения сущностей в сценариях, где нужна гибкость NER при меньших вычислительных затратах, чем у крупных языковых моделей. Для работы используется библиотека GLiNER; модель публикуется в форматах PyTorch и Safetensors. Лицензия — Apache-2.0.

GNER-T5-xxl — модель для генеративного распознавания именованных сущностей, разработанная авторами работы «Rethinking Negative Instances for Generative Named Entity Recognition». Она основана на архитектуре T5 и содержит 5,8 млрд параметров; модель дообучена с использованием отрицательных примеров для повышения качества распознавания сущностей, в том числе в ранее не встречавшихся областях. Предназначена для извлечения сущностей из текста и сценариев zero-shot NER. В карточке описаны результаты семейства GNER на базе Flan-T5, однако отдельные численные результаты именно для версии xxl не приведены. Модель распространяется в формате safetensors по лицензии Apache-2.0.

jina-embeddings-v2-base-code — модель эмбеддингов от Jina AI для представления текста и исходного кода в виде векторов. Она предназначена для семантического поиска по коду и техническим материалам, сопоставления запросов с фрагментами кода и извлечения контекста для технических вопросов и ответов. Модель использует архитектуру JinaBert на основе BERT с двунаправленным вариантом ALiBi и содержит около 160 млн параметров. Она принимает последовательности длиной до 8192 токенов; обучение эмбеддингов проводилось на длине 512 токенов с экстраполяцией на более длинный контекст. Основа модели предварительно обучена на наборе GitHub Code, а затем модель обучалась на парах вопросов, ответов, docstring и исходного кода. Поддерживаются английский и 30 языков программирования. Для получения эмбеддингов предложено использовать mean pooling. Доступны форматы PyTorch, Safetensors и ONNX. Модель рассчитана на эффективный поиск по коду и длинным техническим фрагментам; README также называет технический вопросно-ответный поиск одним из сценариев применения. Для других языков естественного языка и произвольных задач качество не заявлено. Лицензия — Apache-2.0.

KwaiCoder-AutoThink-preview-GGUF — квантизированная версия языковой модели для генерации текста и программного кода, разработанная Kwaipilot и подготовленная в формате GGUF пользователем bartowski. Модель предназначена для локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp, включая сценарии программирования, генерации и анализа кода, а также мультиязычной работы с текстом. В репозитории представлены варианты от BF16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K и Q3_K, а также IQ-квантизации. Размер файлов составляет примерно от 18,32 до 81,14 ГБ. Квантизация выполнена с использованием imatrix на базе llama.cpp. Для работы требуется применять указанный шаблон диалога с токенами system, user и assistant; в начале ответа предусмотрен маркер <judge>. В README указана поддержка multilingual, однако конкретный список языков, архитектура исходной модели, число параметров и размер контекста не приведены. Сильной стороной модели является широкий выбор уровней квантизации: старшие варианты обеспечивают высокое качество, а Q4 и Q3 позволяют снизить требования к памяти. Ограничения связаны с большими требованиями к объёму оперативной или видеопамяти, возможной потерей качества при использовании низкобитных вариантов и отсутствием в README подробных оценок производительности. Модель распространяется по лицензии kwaipilot-license; лицензия обозначена как other, а её текст доступен в файле LICENSE.

Magicoder S DS 6.7B GGUF — квантизированная версия языковой модели Magicoder S DS 6.7B, разработанной Intellligent Software Engineering (iSE) и подготовленной в формате GGUF пользователем TheBloke. Модель предназначена прежде всего для генерации кода и работы в роли интеллектуального ассистента программиста: она обучена следовать инструкциям и отвечать на запросы, связанные с написанием и обработкой программного кода. В качестве обучающих данных указаны наборы Magicoder-OSS-Instruct-75K и Magicoder-Evol-Instruct-110K. Модель основана на архитектуре DeepSeek, содержит 6,7 млрд параметров и работает в режиме text-generation. Поддерживаются GGUFv2-файлы с различными уровнями квантизации от 2 до 8 бит, что позволяет запускать модель с разными компромиссами между качеством, потреблением памяти и скоростью на CPU и GPU. Формат совместим с llama.cpp и рядом сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Языки и размер контекстного окна в README не указаны. Сильными сторонами модели являются специализация на задачах программирования, возможность локального запуска и широкий выбор вариантов квантизации. Ограничения включают потенциальное снижение качества при использовании более агрессивной квантизации, а также отсутствие в предоставленных данных подробных характеристик производительности, поддерживаемых языков и контекста. Указана лицензия DeepSeek с типом «other»; точные условия лицензии следует уточнять в оригинальном репозитории модели.

sileod/mdeberta-v3-base-tasksource-nli — многоязычная модель на архитектуре mDeBERTa-v3-base, разработанная для задач классификации текста и вывода по тексту. Она обучалась в течение 30 тысяч шагов на наборе задач mtasksource и подходит как основа для дальнейшего дообучения, а также для определения, следует ли гипотеза из текста, и классификации по заданным категориям без отдельного обучения на этих категориях. Для сотен задач можно подключать предоставляемые адаптеры через экосистему tasknet и tasksource. Модель содержит 306 млн параметров, принимает текст с контекстом до 512 токенов и доступна в форматах PyTorch и Safetensors. Карточка и метаданные указывают на многоязычное обучение; среди языков есть русский, английский, китайский, японский, арабский, немецкий, французский, испанский и другие. Лицензия — Apache-2.0. Это модель понимания и классификации текста, а не генеративная языковая модель; качество конкретной задачи зависит от выбранных меток или адаптера.

Novasy/nova-coder-merge-7b — слитая модель Novasy на архитектуре Qwen2, созданная методом TIES с помощью mergekit из Qwen/Qwen2.5-7B-Instruct и Qwen/Qwen2.5-Coder-7B-Instruct. Она предназначена для диалоговой генерации текста и помощи с программированием, включая создание и объяснение кода, а также выдачу структурированных ответов. Модель содержит 7,1 млрд параметров, принимает текст и рассчитана на контекст до 32 768 токенов; репозиторий содержит веса в формате safetensors. Метаданные также отмечают интерфейс вызова инструментов. Слияние объединяет общие инструктивные возможности Qwen2.5 с ориентацией кодовой версии на программирование. В карточке не приведены результаты оценки качества или отдельный перечень поддерживаемых языков. Лицензия в предоставленных данных не указана.

Ornith-1.5-35B-A3B — среднеразмерная модель семейства Ornith-1.5, разработанная командой Ornith. Она создана с использованием цикла самоулучшения, в котором совместно оптимизируются генерация задач, построение scaffolding и последовательности решений посредством reinforcement learning. Модель расширяет подход Ornith-1.0, основанный на Qwen3.5 и Gemma4 с дополнительным continued pretraining, mid-training и post-training. Модель предназначена прежде всего для программирования и агентных сценариев: работы с терминалом, решения задач разработки и автономного выполнения многошаговых задач. Это mixture-of-experts-модель с общим размером около 35 млрд параметров, из которых на каждый токен активируется примерно 3 млрд. В README заявлены высокие результаты на Terminal-Bench 2.1 и SWE-bench Verified, включая оценки 67,8–68,5 на Terminal-Bench 2.1 и 79 на SWE-bench Verified. Сильной стороной модели является высокая эффективность вычислений при небольшом числе активируемых параметров, а также специализация на coding и agentic coding. При этом README не содержит сведений о поддерживаемых языках, размере контекста, мультимодальности, точных аппаратных требованиях и лицензии, поэтому эти характеристики нельзя определить по предоставленным данным.

prithivMLmods/Qwen2.5-Coder-14B-Instruct-F16-GGUF — версия модели Qwen2.5-Coder-14B-Instruct в формате GGUF F16. Она основана на Qwen/Qwen2.5-Coder-14B-Instruct и предназначена для генерации кода и диалогового взаимодействия по инструкциям. Модель содержит 14 млрд параметров; GGUF позволяет запускать её в совместимом программном обеспечении, например llama.cpp и Ollama. Модель подходит для написания, анализа и исправления кода в чат-сценариях. В карточке указаны английский язык и лицензия CreativeML Open RAIL-M. README описывает общий запуск GGUF через Ollama, но не приводит отдельные результаты оценки или специфические настройки этой модели.

unsloth/Qwen2.5-Coder-32B — 32-миллиардная языковая модель семейства Qwen2, опубликованная Unsloth и основанная на Qwen/Qwen2.5-Coder-32B. Это плотная авторегрессионная модель для генерации кода и работы с текстом; карточка README описывает серию Qwen2.5-Coder, ориентированную на генерацию, анализ и исправление кода, а также задачи кодовых агентов. Модель может быть полезна разработчикам для дополнения кода, объяснения фрагментов и помощи в исправлении ошибок. Метаданные указывают контекст до 32 768 токенов, поддержку Transformers и формат весов safetensors. README предупреждает, что базовые языковые модели не рекомендуются для диалога без дополнительного постобучения. Репозиторий лицензирован по Apache-2.0.

Qwen2.5-Coder-3B-Instruct-abliterated-GGUF — это GGUF-квантизированная версия инструкционной языковой модели для генерации текста и работы с программным кодом. Исходная модель Qwen2.5-Coder-3B-Instruct-abliterated размещена Huihui-ai, а квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для задач программирования, диалогового взаимодействия и генерации текста; в метаданных указан английский язык. Модель имеет размер около 3B параметров, однако сведения о точной архитектуре, поддерживаемых модальностях и размере контекстного окна в README не приведены. Доступно множество вариантов квантизации от F16 до Q3 и IQ4, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Наиболее качественными названы варианты Q6_K_L и Q6_K, а Q4_K_M указан как сбалансированный вариант для большинства сценариев. Для запуска рекомендуется использовать совместимое ПО, включая LM Studio и llama.cpp; предусмотрен специальный chat-шаблон с ролями system, user и assistant. К сильным сторонам относятся компактный размер, поддержка локального запуска и широкий выбор уровней квантизации, включая варианты, оптимизированные для ARM. Ограничения — уменьшение качества в более сильных вариантах квантизации, отсутствие в README данных о результатах тестирования, контекстном окне и полном наборе языков. Модель обозначена как abliterated и uncensored, поэтому её поведение и защитные ограничения могут отличаться от исходной версии. Указана лицензия qwen-research; точные условия следует уточнять в файле лицензии исходной модели.

Это версия Qwen2.5-Coder-7B-Instruct, подготовленная сообществом mlx-community и преобразованная в формат MLX из исходной модели Qwen/Qwen2.5-Coder-7B-Instruct с помощью mlx-lm 0.31.1. Модель семейства Qwen2 — плотная причинная языковая модель с 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для диалоговой генерации кода, его анализа и исправления. Формат MLX ориентирован на запуск в экосистеме MLX; карточка также указывает поддержку английского языка и лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-GGUF — квантованная GGUF-версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen и подготовленной Second State Inc. Модель предназначена для генерации текста и работы с задачами программирования в формате инструкций; конкретные поддерживаемые языки программирования и естественные языки в README не указаны. Модель рассчитана на использование с LlamaEdge и совместима с шаблоном запросов chatml. Указан контекст размером до 256 000 токенов. Доступны варианты квантования GGUF от Q2_K до Q8_0, а также f16; рекомендуемыми названы Q4_K_M, Q5_K_M и Q5_K_S, обеспечивающие различный баланс между размером файла и потерей качества. Описанная конфигурация использует Q5_K_M размером около 5,85 ГБ. Архитектура, точное число активируемых параметров, поддержка мультимодальности и фактические характеристики качества в README не раскрыты. Ограничения связаны с потерями качества при низкобитном квантовании и необходимостью совместимого окружения для запуска. Модель распространяется по лицензии Apache-2.0. Для запуска через LlamaEdge требуется соответствующая версия LlamaEdge и GGUF-файл модели; в README указано, что поддержка LlamaEdge находится в стадии подготовки.

Карточка модели ArchiveStudio/Qwen3-Coder-Next-Base на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-Next-Base, поэтому описание составлено по ней. Qwen3-Coder-Next-Base — базовая языковая модель компании Qwen, предназначенная для разработки кодовых агентов и локальной работы с кодом. Это предварительно обученная авторегрессионная модель семейства Qwen3-Next с гибридной архитектурой: чередует Gated DeltaNet, Gated Attention и разреженные Mixture of Experts. В README указано 80 млрд параметров всего и 3 млрд активируемых; метаданные Hugging Face указывают 2,3 млрд параметров, поэтому размерные сведения источников расходятся. Модель рассчитана на генерацию кода и использование как основы для последующего обучения и создания агентных систем. Заявлены возможности вызова инструментов, адаптации шаблонов и каркасов проектов, а также поиска и восстановления после ошибок. Нативная длина контекста — 262 144 токена; README заявляет поддержку более 370 языков, в том числе языков программирования. Модель работает только в режиме без рассуждений (non-thinking) и не генерирует блоки разметки рассуждений. Репозиторий содержит веса Safetensors, библиотека — Transformers. Лицензия Apache-2.0.

Rombos-Coder-V2.5-Qwen-14b-GGUF — это квантизированная версия модели Rombos-Coder-V2.5-Qwen-14b, подготовленная bartowski в формате GGUF для запуска через llama.cpp и совместимые приложения, включая LM Studio. Исходная модель размещена автором rombodawg и основана на Qwen2.5-Coder-14B. Модель предназначена прежде всего для генерации и обработки программного кода, включая написание, дополнение и преобразование кода в сценариях локального инференса. Модель относится к классу текстовых генеративных моделей, имеет около 14 млрд параметров и поддерживает английский язык. README не содержит сведений о точной архитектуре, размере контекстного окна, дополнительных языках или мультимодальных возможностях. Доступны варианты от F16 до Q3 и IQ-квантизаций с размером файлов примерно от 6,92 до 29,55 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, а варианты Q4 и ниже требуют меньше оперативной памяти; отдельные варианты оптимизированы для ARM и имеют специальные требования к аппаратной поддержке. К сильным сторонам относятся специализация на задачах программирования, широкий выбор уровней квантизации и возможность локального запуска. Ограничения связаны с потерей качества в низкоразрядных вариантах, значительными требованиями к памяти для старших вариантов и отсутствием в README подробных данных о качестве на бенчмарках, контекстном окне и поддерживаемых языках программирования. Распространение указано по лицензии Apache-2.0.

Shirdel Coder 9B Claude Fable 5 — языковая и мультимодальная модель для генерации текста и кода, разработанная Tesleum. Она создана на основе Qwen/Qwen3.5-9B и связана с базовой моделью nvidia/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-NVFP4. Модель дообучалась в стиле инструкций Claude Fable 5 с использованием датасетов Evol-Instruct-Code-80k-v1 и Qwen/DeepPlanning. Модель предназначена прежде всего для программирования, генерации и преобразования кода, решения задач по разработке и текстовой генерации. В README также заявлена поддержка мультимодальных сценариев, включая работу с изображениями через отдельный файл mmproj, однако конкретные поддерживаемые форматы изображений и возможности обработки мультимодального контекста не указаны. Доступны варианты для text-generation, llama.cpp, vLLM и Ollama. Основной файл модели имеет размерный класс 9B и распространяется в формате GGUF с квантованием Q6_K; отдельно предоставляется BF16-mmproj для мультимодальной работы. Сильными сторонами являются специализация на коде, инструкционное дообучение и наличие готовых вариантов для локального запуска. Сведения о поддерживаемых языках, размере контекста, точных архитектурных характеристиках, результатах оценки и ограничениях качества в README отсутствуют. Лицензия модели — ECL-2.0.

StarCoder2-7B-GGUF — квантованная версия модели StarCoder2 7B, разработанной командой BigCode и подготовленной в формате GGUF компанией Second State Inc. Модель предназначена прежде всего для генерации и работы с программным кодом; исходная модель распространяется через bigcode/starcoder2-7b и использует библиотеку Transformers. В README не указаны точные архитектурные детали, перечень поддерживаемых языков программирования или естественных языков, а также мультимодальные возможности, поэтому их характеристики нельзя подтвердить. Доступно несколько вариантов квантования от 2 до 8 бит с размером файлов примерно от 2,72 до 7,63 ГБ. Заявленный размер контекста — 4608 токенов. Вариант Q4_K_M отмечен как рекомендуемый благодаря балансу размера и качества, Q5_K_M и Q5_K_S — как варианты с очень небольшой потерей качества, а Q2_K–Q3_K и некоторые legacy-варианты имеют более существенную потерю качества. Модель подходит для локального запуска в средах, совместимых с GGUF и llama.cpp; интеграция с LlamaEdge на момент публикации обозначена как находящаяся в разработке. Модель ориентирована на сценарии программирования, включая генерацию кода, но README не содержит результатов тестирования или подробного описания сильных сторон и ограничений исходной модели. Лицензия указана как BigCode OpenRAIL-M; условия её применения следует учитывать при развёртывании и распространении.