II.11Кибербезопасность и приватность

Kimi-K2.7-Code-MLX-4bit-hiprec — конверсия модели moonshotai/Kimi-K2.7-Code для MLX на Apple Silicon, опубликованная pipenetwork. Это текстовая модель генерации кода без визуального модуля, основанная на архитектуре DeepSeek-V3-style MoE. Исходная модель содержит около 1 трлн параметров, из которых примерно 32 млрд активируются при обработке запроса. Модель предназначена для генерации и обработки программного кода, например написания Python-кода. Эксперты MoE сохранены в исходном формате int4 с размером группы 32, а attention, shared/dense MLP и lm_head квантизированы до 6 бит с размером группы 64. Средний размер составляет около 5 бит на вес, объём файлов — примерно 600 ГБ. Для запуска требуется около 768 ГБ или более unified memory; на компьютерах с 512 ГБ памяти модель не помещается. Используется через mlx-lm с поддержкой remote code. Преимущество сборки — более высокая точность attention, router, dense-слоёв и lm_head по сравнению с равномерной 4-битной квантизацией при умеренной прибавке к размеру. Ограничения включают отсутствие vision-возможностей, чрезвычайно высокие требования к памяти и отсутствие полноценного тестового запуска издателем: выполнена только проверка целостности файлов, индекса весов, шардов, конфигурации и tokenizer. Модель распространяется по лицензии Kimi K2; подробные условия приведены в файле LICENSE.

OpenCodeInterpreter-DS-6.7B — модель генерации кода из семейства OpenCodeInterpreter, разработанная для объединения генерации кода с его выполнением и последующей доработкой по результатам. Она основана на DeepSeek Coder 6.7B Base и использует плотную архитектуру LlamaForCausalLM с 6,6 млрд параметров. Модель принимает текстовые запросы и генерирует код и ответы в диалоговом формате; заявленный контекст составляет 16 384 токена. В карточке приведены результаты на HumanEval и MBPP: 76,2 и 73,9 соответственно для указанных основных вариантов тестов. Модель подходит для написания кода по описанию задачи и интерактивной помощи в программировании. README описывает выполнение и итеративную доработку как возможности семейства; доступность внешнего исполнителя зависит от используемой системы. Модель распространяется по лицензии Apache 2.0.

OpenCodeInterpreter-DS-6.7B-GGUF — это набор файлов модели в формате GGUF, подготовленный MaziyarPanahi для оригинальной модели m-a-p/OpenCodeInterpreter-DS-6.7B, разработанной организацией m-a-p. Модель относится к классу генеративных текстовых моделей и предназначена прежде всего для работы с программным кодом и задач генерации текста. Модель имеет размер 6,7 млрд параметров и поддерживает несколько вариантов квантования с разрядностью от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K. Формат GGUF ориентирован на локальный запуск через llama.cpp и совместимые инструменты, включая text-generation-webui, LM Studio, GPT4All и llama-cpp-python, в том числе с GPU-ускорением. В README явно указан английский язык; другие языки, длина контекста, архитектурные детали и результаты оценки не описаны. К сильным сторонам относятся возможность выбора компромисса между качеством и потреблением памяти, а также широкая совместимость с локальными средствами инференса. Ограничения связаны с потерями качества, возможными при низкобитном квантовании, и отсутствием в README подробных данных о производительности, поддерживаемых языках программирования и точных сценариях применения. Указанная лицензия — Apache-2.0.

OpenCodeInterpreter-DS-6.7B-imatrix-GGUF — это квантизированные GGUF-версии языковой модели OpenCodeInterpreter-DS-6.7B, опубликованные пользователем duyntnet. Исходная модель разработана организацией m-a-p и размещена на базе deepseek-ai. Модель предназначена для генерации текста и прежде всего для задач программирования, включая написание функций и обработку запросов на естественном языке, связанных с кодом. В доступных данных указано, что модель имеет размер 6,7 млрд параметров, поддерживает текстовый ввод и вывод, а заявленным языком является английский. Для запуска исходной версии используются AutoTokenizer и AutoModelForCausalLM из Transformers, а взаимодействие может выполняться через chat template. Данный репозиторий содержит квантизации с использованием GGUF и imatrix; конкретные варианты квантизации, размер контекста и требования к оборудованию не указаны. Сильной стороной модели является специализация на генерации программного кода и наличие формата GGUF, удобного для совместимого локального инференса. Ограничения включают отсутствие подробных данных о качестве, поддерживаемых языках программирования, мультимодальности и производительности. Лицензия обозначена как other, без уточнения конкретных условий использования.

Ornith-1.5-27B-A3B-CoderX — кодовая модификация модели Ornith-1.5-35B-A3B, созданная разработчиками Ornith. Это текстовая MoE-модель для генерации кода и диалоговых сценариев; в ней 40 слоёв и около 26,7 млрд параметров, из которых активны примерно 3 млрд. Модель получена экспертным прореживанием: число экспертов в каждом слое сокращено с 256 до 184, а маршрутизация top-8 и голова MTP сохранены. README указывает, что веса BF16, а оставленные эксперты побитово совпадают с базовой моделью; дообучение и дистилляция не применялись. Модель предназначена для написания и дополнения кода, решения задач программирования и диалогового использования с вызовом инструментов. Контекст составляет 262 144 токена. В карточке заявлен английский язык. В приведённых тестах модель показала сильный результат на LiveCodeBench v6, однако большинство сравнений основано на единичных запусках; авторы рекомендуют считать небольшие различия ничьей. На тесте вызова инструментов зафиксированы ошибки планирования и работы с контекстом, а измеренная оценка отмечена как нижняя граница из-за сбоя инфраструктуры. Лицензия — Apache-2.0.

richardyoung/Qwen2.5-14B-Instruct-1M-heretic — текстовая чат-модель на архитектуре Qwen2, созданная Richard Young методом abliteration на основе Qwen/Qwen2.5-14B. Модель предназначена для диалоговой генерации, творческого письма, ролевых сценариев, анализа поведения языковых моделей и задач, требующих обработки длинных документов. Модель содержит около 14 млрд параметров и поддерживает контекст до 1 010 000 токенов с генерацией до 8192 токенов. В README указана архитектура Transformer с RoPE, SwiGLU и RMSNorm. Abliteration снижает частоту отказов: в приведённом сравнении отказов было 3 из 100 против 87 из 100 у исходной модели; этот метод не добавляет новых возможностей и ослабляет защитное поведение. Для эффективной обработки очень длинного контекста автор рекомендует специальную сборку vLLM; стандартный путь инференса может терять точность на последовательностях длиннее 262 144 токенов и требует значительных ресурсов GPU. Модель принимает и генерирует текст, заявленный язык карточки — английский. Распространяется по лицензии Apache-2.0. Она может выдавать неточные, предвзятые или неподходящие ответы; ослабленные механизмы отказа повышают риск вредного вывода.

Qwen2.5-Coder-0.5B-Instruct-GGUF — это квантизированная в формате GGUF версия инструкционной модели Qwen2.5-Coder-0.5B-Instruct, разработанной Qwen. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для генерации текста и программного кода, диалогового взаимодействия и использования в code agent-сценариях. Модель содержит около 0,5 млрд параметров и поддерживает контекст до 32 000 токенов. При обучении использовалось до 5,5 трлн токенов, включая исходный код, данные для выравнивания текста и кода и синтетические данные. В README указан английский язык; другие языки и поддерживаемые модальности не заявлены. Формат GGUF ориентирован на локальный запуск средствами, совместимыми с llama.cpp, включая LM Studio. К сильным сторонам относятся специализация на программировании, поддержка длинного контекста и относительно небольшой размер, облегчающий локальное использование. Ограничением является малый масштаб модели по сравнению с более крупными кодовыми моделями, поэтому качество сложного анализа, генерации и исправления кода может быть ниже. Модель распространяется по лицензии Apache-2.0.

QwOpus-4.6-Coder-3B — компактная языковая модель для генерации текста и программного кода, разработанная пользователем ryzdfm на базе Qwen2.5-Coder-3B-Instruct от команды Qwen. Модель дообучена методом supervised fine-tuning с LoRA на 3 209 примерах рассуждений, дистиллированных из наборов данных с траекториями Claude Opus и другими образцами пошагового reasoning. Она ориентирована на локальный запуск на потребительском оборудовании и поддерживает формирование структурированных рассуждений в тегах <think> перед итоговым ответом. Модель предназначена прежде всего для генерации и объяснения кода, решения алгоритмических, математических и логических задач, а также сценариев, где важны пошаговый анализ и проверка решения. Заявлены Python и JavaScript, однако полный перечень поддерживаемых языков не указан. Это текстовая autoregressive-модель с параметрами масштаба 3B и максимальной длиной последовательности 4096 токенов. Для запуска доступны варианты квантования Q4_K_M, Q3_K_M и Q8_0; версия Q4_K_M требует около 2,1 ГБ видеопамяти и, по данным README, обеспечивает примерно 88 токенов в секунду на RTX 3050 4GB. Сильные стороны модели — небольшой размер, высокая скорость, возможность приватного локального использования и выраженный стиль структурированного reasoning. Ограничения связаны с масштабом 3B: модель может испытывать трудности при генерации длинного многoфайлового кода и проектировании сложных систем; глубина рассуждений уступает более крупным моделям, а ответы могут содержать ошибки и требуют проверки. В метаданных указаны английский язык и лицензия Apache-2.0.

Yi-Coder-9B-Chat — диалоговая модель для генерации кода, выпущенная командой 01.AI как часть серии Yi-Coder. Она дообучена на базе 01-ai/Yi-Coder-9B и построена на плотной архитектуре семейства Llama с 8,6 млрд параметров. Модель предназначена для программирования в формате чата: она может писать код по запросу и работать с длинным контекстом до 131 072 токенов. Серия Yi-Coder заявляет поддержку 52 распространённых языков программирования и сильные результаты в задачах кодирования при размере менее 10 млрд параметров. Модель загружается через Transformers и использует формат safetensors. Лицензия — Apache-2.0. Карточка не приводит ограничений на качество или конкретных рекомендаций по использованию, поэтому ответы сгенерированного кода следует проверять перед применением.

BenevolenceMessiah/Yi-Coder-9B-Chat-Instruct-TIES — объединение моделей, созданное с помощью mergekit методом TIES на основе 01-ai/Yi-Coder-9B и 01-ai/Yi-Coder-9B-Chat. Это плотная авторегрессионная модель семейства Llama с 8,6 млрд параметров, предназначенная для генерации кода и диалоговой помощи в программировании. Модель принимает текст и генерирует текст; карточка базовой серии заявляет поддержку 52 популярных языков программирования и контекст до 128K токенов, а метаданные репозитория указывают контекст 131 072 токена. Модель подходит для написания и объяснения кода, а также работы с длинными фрагментами программного текста. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. README описывает базовую серию Yi-Coder и конфигурацию слияния, но не приводит отдельной оценки качества именно этого объединения.

assay-4b — модель принятия типизированных решений, разработанная проектом Assay на базе Qwen3-4B-Base. Она принимает текстовое состояние и именованные вопросы трёх типов: bool для ответа да или нет, choice для выбора из 2–255 описанных вариантов и score для оценки по 2–10 упорядоченным уровням. За один проход модель выдаёт распределение вероятностей по вариантам, уверенность и оценку наличия свидетельств; свободный текст не генерируется. Модель содержит 3,7 млрд параметров, использует плотную архитектуру Qwen3 и контекст до 32 768 токенов. Веса дообучены с помощью LoRA и объединены с базовой моделью; отдельный адаптер и голова оценки свидетельств также представлены в репозитории. Для bool и choice предусмотрена конформная калибровка с возможностью воздержаться от ответа. Модель обучена на английских данных и предназначена для типизированной классификации и структурированных решений, в том числе по ранее не встречавшимся задачам. По данным карточки, на наборах невиданных при обучении задач точность составила 0,803; показатели и калибровка могут меняться на других данных. Модель не предназначена для арифметики, подсчётов, сравнения дат или многошаговых рассуждений за один проход; при нерелевантном контексте точность снижается. Вероятности и пороги не гарантируют надёжность для каждого отдельного ответа, поэтому перед применением следует проверить калибровку на собственных размеченных данных. Лицензия — Apache-2.0.

CodeGemma 7B IT GGUF — квантизированная версия instruction-tuned модели CodeGemma 7B, разработанной Google и подготовленной в формате GGUF пользователем bartowski. Модель предназначена прежде всего для генерации и обработки программного кода, включая написание функций и ответы на запросы разработчиков. Она работает с текстовыми запросами через llama.cpp и использует специальный шаблон диалога с маркерами ролей; системные сообщения не поддерживаются. Доступны варианты квантизации от Q8_0 до IQ1_S размером примерно от 2,16 до 9,07 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше памяти, тогда как малые варианты подходят для ограниченных ресурсов за счёт заметного снижения качества. README не содержит сведений о размере контекста, поддерживаемых языках, мультимодальности или точной архитектуре базовой модели, поэтому эти характеристики нельзя определить по представленным данным. Модель удобна для локального запуска и выбора компромисса между качеством, скоростью и потреблением памяти. Ограничениями являются отсутствие поддержки system prompt и неизбежная потеря качества при использовании низкобитных вариантов. Распространение регулируется лицензией Google Gemma; ссылка на условия использования указана как https://ai.google.dev/gemma/terms.

Code Llama 7B Instruct — разработанная Meta инструкционно настроенная версия языковой модели семейства Code Llama, представленная в формате Transformers. Это авторегрессионная плотная трансформерная модель с 6,6 млрд параметров и контекстом до 16 384 токенов, предназначенная для генерации и понимания кода, дополнения фрагментов и выполнения инструкций в формате диалога. Модель принимает текст и генерирует текст. Её можно применять как помощника для написания кода, его дополнения и объяснения, а также для infilling и ответов на инструкции, связанные с программированием. В карточке заявлена ориентация на английский язык и языки программирования; Python-специалистом эта версия не является. Модель неофициально размещена в организации codellama; README указывает, что разработчик семейства — Meta. Модель статична и обучена на офлайн-данных. Возможны неточные или нежелательные ответы; перед использованием в приложениях рекомендуется проверять её поведение и настраивать меры безопасности под конкретный сценарий. Использование регулируется лицензией Meta для Code Llama; в метаданных репозитория указана лицензия llama2.

deepseek-ai/deepseek-coder-33b-base — базовая языковая модель для кода, разработанная DeepSeek и обученная с нуля. Она содержит 33,1 млрд параметров, использует плотную архитектуру Llama с Grouped-Query Attention и принимает контекст длиной до 16 384 токенов. Модель обучена на 2 трлн токенов: 87% корпуса составляют программный код, а 13% — естественный язык на английском и китайском. Предназначена для генерации и продолжения кода, заполнения пропусков и дополнения кода на уровне проекта. README сообщает о результатах на HumanEval, MultiPL-E, MBPP, DS-1000 и APPS, но эти результаты не гарантируют качество для конкретного языка программирования или сценария. Модель распространяется в форматах PyTorch и Safetensors. В метаданных лицензия указана как «other»; условия использования следует сверить с лицензией в репозитории DeepSeek-Coder.

duyntnet/OpenCodeReasoning-Nemotron-1.1-7B-imatrix-GGUF — это GGUF-квантизации языковой модели OpenCodeReasoning-Nemotron-1.1-7B, разработанной NVIDIA. Модель создана на основе Qwen2.5-7B-Instruct и дообучена для пошагового рассуждения и генерации кода. Она предназначена для текстовой генерации, прежде всего для решения задач программирования и кодинга. Модель поддерживает контекст длиной до 64 тысяч токенов, работает с текстом и заявлена для английского языка. Размер базовой модели — 7B параметров; конкретные характеристики, точность и требования к ресурсам зависят от выбранного варианта квантизации GGUF. Для запуска подходят llama.cpp, KoboldCPP, text-generation-webui, Jan и LM Studio. В тестах LiveCodeBench v5 модель показала Pass@1 55,5, превысив показатели ряда других дистиллированных моделей сопоставимого размера. Сильными сторонами являются специализация на рассуждении при генерации кода, большой контекст и возможность локального запуска через распространённые inference-инструменты. Ограничения включают ориентацию преимущественно на английский язык, зависимость качества и потребления ресурсов от квантизации, а также отсутствие в README подробностей о точных параметрах отдельных GGUF-файлов. В карточке указана лицензия other; исходная модель описана как доступная для коммерческого и некоммерческого использования, однако точные условия лицензии следует уточнять отдельно.

Open-Instruct Code Alpaca 13B — плотная авторегрессионная модель семейства LLaMA с 12,9 млрд параметров, дообученная исследователями AllenAI на наборе инструкций Code Alpaca. Она предназначена для генерации кода и ответов на инструкции, в частности для помощи с программированием в формате запрос–ответ. Модель принимает текст и генерирует текст; её нативная длина контекста — 2048 токенов. В README приведён результат Codex-Eval Pass@1 20,1 и Pass@10 34,5, а также результаты общих языковых и рассуждательных бенчмарков. Репозиторий содержит diff весов, поэтому для использования требуется совместимая исходная модель LLaMA в формате Hugging Face; это не самостоятельный полный набор весов. Рекомендуется применять указанный в карточке шаблон форматирования запросов. Модель опубликована под лицензией AI model license вместе с исходной лицензией LLaMA; перед использованием следует проверить условия обеих лицензий.

mlx-community/Qwen2.5-Coder-3B-Instruct-bf16 — конвертированная в формат MLX версия инструктивной языковой модели Qwen2.5-Coder-3B-Instruct, подготовленная сообществом mlx-community на основе Qwen/Qwen2.5-Coder-3B-Instruct с помощью mlx-lm 0.19.3. Это плотная авторегрессионная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и 3,1 млрд параметров; карточка указывает контекст до 32 768 токенов. Модель предназначена для генерации текста и кода по текстовым инструкциям в формате диалога. Её можно применять для написания и объяснения фрагментов кода, анализа и исправления кода, а также для чат-взаимодействия и сценариев с интерфейсом вызова инструментов. В метаданных указан английский язык. Репозиторий содержит веса Safetensors, лицензия обозначена как other. README описывает конвертацию из базового чекпойнта, но не уточняет условия этой лицензии; перед использованием следует проверить лицензионные условия базовой модели и самой конверсии. Специализация на коде и размер в 3,1 млрд параметров могут ограничивать качество на сложных задачах и вне программирования.

Qwen2.5-Coder-3B-Instruct-Q8_0-GGUF — языковая модель для генерации текста и работы с программным кодом, разработанная командой Qwen и представленная в формате GGUF сообществом ggml-org. Это конверсия базовой модели Qwen/Qwen2.5-Coder-3B-Instruct, выполненная с использованием llama.cpp и проекта GGUF-my-repo. Модель предназначена для генерации и продолжения кода, ответов в диалоговом формате и других сценариев, поддерживаемых исходной instruct-моделью. Она может запускаться локально через llama.cpp в режиме командной строки или как сервер. Размер модели составляет 3B параметров, а вариант Q8_0 использует 8-битное квантование. В метаданных указаны текстовая генерация и английский язык; сведения о других языках, контекстном окне и точной архитектуре в представленном README отсутствуют. Основные преимущества — локальный запуск, совместимость с llama.cpp и сниженные требования к памяти по сравнению с полноразмерной моделью благодаря квантованию. Ограничения включают небольшой по современным меркам размер и возможное снижение качества из-за квантования; подробные результаты тестирования и ограничения исходной модели в README не приведены. Модель распространяется по лицензии qwen-research; для точных условий следует обратиться к указанному файлу лицензии исходной модели.

Qwen3-coder-REAP-25B-A3B-Rust-GGUF — это набор высокоточных квантованных версий языковой модели для генерации кода, созданный Em-80 на основе Qwen3-Coder-REAP-25B-A3B от Cerebras Systems и производной Qwen3-Coder-30B-A3B-Instruct от Alibaba Cloud. Модель предназначена прежде всего для генерации, анализа и решения задач программирования, с особым вниманием к Rust; также заявлена поддержка Python, математического и логического рассуждения, а также качественного английского текста. Архитектура модели относится к causal language model и основана на MoE-варианте с Router-weighted Expert Activation Pruning (REAP). В репозитории представлены веса в формате GGUF с несколькими уровнями квантования и файл importance matrix (imatrix), подготовленный на основе набора из 3000 примеров. Калибровочные данные охватывают Rust и Python, математическое рассуждение, логические доказательства и английскую прозу. Точный активный и общий размер модели, количество экспертов, размер контекста и перечень поддерживаемых языков программирования, кроме упомянутых Rust и Python, в README не указаны. Сильной стороной является специализированная imatrix, призванная сохранять качество генерации кода и сложного рассуждения при низкобитном квантовании, а также готовность к запуску через llama.cpp. Ограничения включают отсутствие опубликованных бенчмарков и гарантии качества; модель предоставляется «как есть». Веса и imatrix распространяются по лицензии Apache License 2.0, при этом модификации, квантование и создание imatrix выполнены Em-80.

Qwopus3.5-4B-Coder-GGUF — компактная модель для программирования и агентных сценариев, разработанная Jackrong на основе Qwen3.5-4B. Она дообучена для отладки кода, локализации ошибок, подготовки минимальных исправлений, структурированного использования инструментов, function calling и задач, в которых требуется пошаговое рассуждение с обратной связью от среды. В обучении заявлены Trace Inversion, траектории взаимодействия с инструментами и curriculum SFT, направленные на устойчивое форматирование и работу с длинными контекстами. Модель представляет собой плотную модель примерно на 4 млрд параметров и распространяется в формате GGUF для локального запуска, в том числе через llama.cpp. В метаданных указана поддержка текстово-изобразительных задач и мультимодальности, однако конкретные ограничения визуального ввода и размер контекстного окна не приведены. Заявлены языки English, Chinese, Spanish, Russian и Japanese. Также модель тестировалась с Multi-Token Prediction при n=2 относительно эталона Qwen3.5-4B-MTP. Сильные стороны модели — небольшой размер, ориентация на локальное выполнение, отладку, агентные циклы и инструментальные вызовы; автор позиционирует её как подходящую для ноутбуков с 16 ГБ памяти, простых повторяющихся задач и мониторинга сервисов. При этом README не содержит подробных результатов бенчмарков, требований к оборудованию, точного контекстного окна или оценки качества мультимодальных возможностей, поэтому модель не следует считать универсальной заменой более крупным системам. Лицензия — Apache-2.0.

Qwopus3.5-4B-Coder-MTP-GGUF — компактная кодовая и агентная модель, разработанная Jackrong на базе Qwen/Qwen3.5-4B. Она дообучена для отладки программ, локализации ошибок, рассуждений о минимальных исправлениях, структурированного использования инструментов, function calling и агентских рабочих процессов с обратной связью от среды. В обучении использовались Trace Inversion, траектории взаимодействия с инструментами и curriculum SFT; среди заявленных наборов данных — коллекции трасс Claude Opus и Hermes agent reasoning traces. Модель представляет собой плотную модель примерно на 4 млрд параметров и распространяется в формате GGUF для локального запуска, в частности через llama.cpp. Заявлена поддержка мультимодального сценария image-text-to-text, а также reasoning и работы с кодом. В карточке указаны языки English, Chinese, Spanish, Russian и Japanese. Для ускорения генерации и speculative decoding тестировалась Multi-Token Prediction с параметром n=2. Контекстное окно и точные требования к аппаратным ресурсам не указаны, хотя модель позиционируется для ноутбуков с 16 ГБ памяти и ресурсно ограниченных сред. Сильными сторонами модели являются компактный размер, ориентация на локальное выполнение, отладку кода, агентные задачи, структурированные вызовы инструментов и сохранение стабильного форматирования при длинных контекстах. Ограничения включают отсутствие в представленных данных подробных количественных результатов, точного описания мультимодальных возможностей, контекстного окна и совместимости конкретных инструментов. Модель распространяется по лицензии Apache-2.0.

Replete-Coder-V2-Llama-3.1-8b-GGUF — это набор GGUF-квантизаций модели Replete-Coder-V2-Llama-3.1-8b, разработанной Replete-AI и сконвертированной и квантованной bartowski с использованием llama.cpp и метода imatrix. Модель относится к классу text-generation и предназначена прежде всего для генерации и обработки программного кода. В README явно указан английский язык; другие языки не заявлены. Модель основана на архитектуре Llama 3.1 и имеет 8 миллиардов параметров. Доступны варианты от F16 до Q2_K, с размером файлов примерно от 3,18 до 16,07 ГБ. Квантизации позволяют запускать модель локально с различными компромиссами между качеством и требованиями к памяти; для работы рекомендуется llama.cpp, в частности через LM Studio. Наиболее качественными и рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M и некоторые другие. Более сильное сжатие уменьшает требования к оперативной памяти, но снижает качество. Модель поддерживает текстовый ввод и вывод; сведения о мультимодальности и размере контекстного окна в README отсутствуют. Для корректного взаимодействия следует использовать указанный шаблон промпта с ролями system, user и assistant. Модель распространяется под лицензией Apache-2.0. Описанные ограничения включают зависимость качества от выбранного уровня квантизации и отсутствие данных о бенчмарках, точности, безопасности и применимости за пределами заявленного английского языка.

QuantFactory/stable-code-instruct-3b-GGUF — квантизированная версия модели Stable Code Instruct 3B, созданная QuantFactory с использованием llama.cpp на основе stabilityai/stable-code-instruct-3b от Stability AI. Это авторегрессионная языковая модель с архитектурой Transformer decoder примерно на 2,7 млрд параметров, дообученная из stable-code-3b на общедоступных и синтетических данных с применением Direct Preference Optimization (DPO). Модель ориентирована на английский язык. Модель предназначена для генерации и обсуждения программного кода, общих задач разработки программного обеспечения и генерации SQL. Она поддерживает сценарии диалоговой работы с инструкциями и может использоваться локально в формате GGUF через инструменты экосистемы llama.cpp. В заявленных тестах MultiPL-E оценка pass@1 составила 32,4% для Python, 30,9% для C++, 32,1% для Java и JavaScript, 24,2% для PHP и 23% для Rust; показатели не были подтверждены в метаданных. Заявленная длина контекста и полный перечень поддерживаемых языков программирования не указаны. К сильным сторонам относятся специализация на коде и SQL, инструкционное дообучение, компактный размер и возможность запуска квантизированной версии на локальном оборудовании. Ограничениями являются относительно небольшой размер, английская языковая специализация, отсутствие сведений о длине контекста и неполное покрытие языков программирования; качество результата требует проверки, особенно для критически важного кода. Лицензия указана как Stability AI Community License; для коммерческого использования необходимо ознакомиться с условиями Stability AI и обратиться к коммерческой лицензии Stability AI.

second-state/StarCoder2-3B-GGUF — это квантованная в формате GGUF версия языковой модели StarCoder2 3B, разработанной командой BigCode и подготовленной к распространению компанией Second State Inc. Модель предназначена для генерации и дополнения программного кода, а также других сценариев работы с текстом, связанных с программированием. В карточке указана интеграция с библиотекой Transformers и назначение text-generation. Модель основана на bigcode/starcoder2-3b и имеет размер 3 миллиарда параметров. Доступны варианты квантования от 2 до 8 бит с размером файлов примерно от 1,15 до 3,22 ГБ. Заявленный размер контекста — 3072 токена. Представлены различные уровни компромисса между размером файла и качеством: Q4_K_M, Q5_K_M и Q5_K_S отмечены как рекомендуемые, тогда как варианты с более низкой разрядностью могут заметно терять в качестве. Основное преимущество модели — возможность локального запуска при относительно небольшом объёме памяти, особенно в низкоразрядных вариантах. Ограничения включают потерю качества из-за квантования, наиболее выраженную у Q2 и Q3, а также отсутствие в README сведений о поддерживаемых языках программирования и естественных языках, точной архитектуре, мультимодальности и результатах оценки. Указана лицензия bigcode-openrail-m.

XLM-RoBERTa-XL — крупная многоязычная модель на архитектуре RoBERTa, разработанная авторами статьи Naman Goyal, Jingfei Du, Myle Ott, Giri Anantharaman и Alexis Conneau. Она предварительно обучена на 2,5 ТБ отфильтрованных данных CommonCrawl на 100 языках с целью masked language modeling: модель восстанавливает замаскированные слова, используя контекст с обеих сторон. Число параметров — 4,4 млрд, максимальная длина контекста — 514 токенов. Модель подходит для заполнения пропусков в тексте и извлечения многоязычных представлений для дообучения под классификацию последовательностей и токенов, а также ответы на вопросы. Она предназначена прежде всего для задач, анализирующих предложение целиком; для генерации связного текста README рекомендует авторегрессионные модели. Модель распространяется под лицензией MIT.

XLM-RoBERTa-XL (xxlarge) — крупная многоязычная модель семейства RoBERTa, разработанная командой Facebook/Meta и впервые опубликованная в репозитории Facebook. Модель с 13,9 млрд параметров предварительно обучена на 2,5 ТБ отфильтрованных данных CommonCrawl на 100 языках; её архитектура — XLM-RoBERTa-XL с двунаправленным кодировщиком и контекстом до 514 токенов. Репозиторий содержит веса PyTorch, лицензия — MIT. Основная задача модели — предсказание замаскированных токенов в тексте. Полученные представления также подходят как основа для дообучения классификаторов последовательностей и токенов, а также систем ответов на вопросы. Модель рассчитана на работу с многоязычным текстом и извлечение контекстных признаков; для генерации связного текста авторы рекомендуют использовать авторегрессионные модели. Для практических задач классификации и разметки потребуется дообучение на целевых данных.

Yi-Coder-9B — открытая языковая модель для программирования от 01.AI. Это плотная авторегрессионная модель семейства Llama с 8,6 млрд параметров; она предназначена для генерации кода и работы с длинными контекстами до 128K токенов. В карточке показан сценарий общения через чат-шаблон и пример генерации алгоритма быстрой сортировки. Модель подходит для написания и дополнения кода, решения задач программирования и анализа длинных фрагментов исходного кода. Серия Yi-Coder поддерживает 52 распространённых языка программирования; сведения о конкретных естественных языках в карточке не приведены. Репозиторий содержит веса Safetensors и рассчитан на использование через Transformers. Лицензия — Apache 2.0.

Карточка модели jondurbin/airoboros-c34b-3.1.2 на Hugging Face совпадает с карточкой jondurbin/airoboros-l2-70b-3.1.2, поэтому описание составлено по ней. airoboros-l2-70b-3.1.2 — экспериментальная инструктивная языковая модель от jondurbin, созданная на базе Llama 2 и дообученная на наборе airoboros-3.1, преимущественно на синтетических данных. Это плотная авторегрессионная модель семейства Llama с 68,7 млрд параметров и контекстом до 4096 токенов; она принимает текст и генерирует текст. Для диалогов используется шаблон Llama 2 Chat. Модель предназначена для следования инструкциям и решает широкий круг задач: ответы на вопросы по предоставленному контексту, суммаризация, математические решения в формате MathJSON, извлечение данных из логов, анонимизация, программирование и генерация аргументов для вызова функций. Она также обучалась на многошаговых инструкциях и диалогах с учётом системного промпта и истории беседы. Для MathJSON автор рекомендует низкую температуру генерации; исполнение планов или вызовов функций требует внешнего кода. Модель распространяется по лицензии Llama 2. Карточка называет её экспериментальной и отмечает, что часть данных по снятию ограничений не опубликована.

airoboros-l2-70b-3.1.2 — экспериментальная инструктивная языковая модель от jondurbin, созданная на базе Llama 2 и дообученная на наборе airoboros-3.1, преимущественно на синтетических данных. Это плотная авторегрессионная модель семейства Llama с 68,7 млрд параметров и контекстом до 4096 токенов; она принимает текст и генерирует текст. Для диалогов используется шаблон Llama 2 Chat. Модель предназначена для следования инструкциям и решает широкий круг задач: ответы на вопросы по предоставленному контексту, суммаризация, математические решения в формате MathJSON, извлечение данных из логов, анонимизация, программирование и генерация аргументов для вызова функций. Она также обучалась на многошаговых инструкциях и диалогах с учётом системного промпта и истории беседы. Для MathJSON автор рекомендует низкую температуру генерации; исполнение планов или вызовов функций требует внешнего кода. Модель распространяется по лицензии Llama 2. Карточка называет её экспериментальной и отмечает, что часть данных по снятию ограничений не опубликована.

Jackrong/Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill — плотная текстовая модель на архитектуре Qwen3.5 с 9 млрд параметров, разработанная Jackrong путём дообучения Qwen/Qwen3.5-9B. Она предназначена для диалогов и сложных задач, где нужны последовательные рассуждения: разбиение задачи на части, планирование, анализ ограничений и обобщение. Обучение с учителем использует дистиллированные трассы рассуждений Gemini 3.1, Gemini 3.0 Pro и Qwen3.5-27B; модель рассчитана на генерацию текста и поддерживает интерфейс вызова инструментов. В корпусах обучения представлены математика, программирование и системы, безопасность, физика, право, медицина, финансы и другие области. Метаданные карточки указывают языки английский, китайский и корейский. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Модель может галлюцинировать факты и ссылки, а её склонность к подробному структурированному анализу иногда приводит к избыточным ответам на простые запросы. Дистилляция может повлиять на обобщение и вызвать частичное забывание знаний базовой модели; для конкретного сценария требуется оценка качества и настройка формата запросов.