II.7DevOps, облако и эксплуатация IT-систем

Self-instruct-starcoder — модель генерации кода, созданная дообучением StarCoder на наборе инструкций Self-instruct-starcoder. Она рассчитана на ответы на запросы в формате «Question: … Answer: …» и на выполнение заданий по программированию. Модель построена на архитектуре GPTBigCode, использует причинную генерацию текста и поддерживает контекст до 8192 токенов. Модель подходит для генерации и дополнения кода по инструкциям. В карточке указана библиотека Transformers и формат весов PyTorch. Сведения о лицензии в предоставленных данных отсутствуют.

Это экспериментальный чекпойнт модели Qwen3-Coder-30B-A3B-Instruct, дообученный командой TaskTrove методом GRPO в эксперименте X10b. Обучение проводилось на датасете DCAgent/exp_rpt_multifile с использованием SkyRL и Terminus-2; конфигурация включала FSDP2 и FlashAttention 2. Из заявленных характеристик базовой модели следует поддержка контекста до 262 144 токенов. Чекпойнт предназначен для генерации текста в диалоговом формате, прежде всего для задач программирования и агентных сценариев, унаследованных от базовой модели. Обучение остановили на шаге 131 из 400 после выхода награды на плато; авторы отмечают исчерпание исследования и отсутствие дальнейшего роста метрик. Репозиторий распространяется под лицензией Apache 2.0.

XAgentLlama-7B-preview — экспериментальная генеративная модель текста, разработанная XAgentTeam на основе Code Llama 7B и дообученная для работы с XAgent. Авторы сообщают, что использовали около 300 тысяч примеров и 48 ускорителей A100; модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 16 384 токенов. Модель предназначена для генерации и дополнения кода, выполнения инструкций и вызова функций в формате XAgentGen. Для наилучшей работы её следует использовать с XAgentGen и специальным форматом вызова функций. Она принимает и выдаёт текст; заявленная языковая область — английский и языки программирования. Это предварительная версия, и авторы предупреждают, что её качество не является финальным. Как и другие языковые модели, она может генерировать неточные или нежелательные ответы, поэтому перед применением в продукте требуется проверка под конкретный сценарий. Условия использования регулируются лицензией Meta для Llama 2.

xGemable-12B-coder-v1.5-GGUF — специализированная агентная модель для программирования, разработанная компанией xCloudinfo на базе google/gemma-4-12B-it. Модель обучалась с применением LoRA и дистилляции проверенных выполнением траекторий Anthropic Claude: примеры кода отбирались только после успешной компиляции и прохождения тестов. Это не универсальная диалоговая модель, а инструмент для инженерных задач и локального использования. Модель предназначена для реализации функций и модулей, написания и анализа тестов, объяснения и ревью кода, а также многошаговой работы с инструментами и исправления ошибок. Основной язык программирования — Python; также заявлена поддержка C#, Java, Go, JavaScript и Rust. Поддерживаются function calling и tool use. Контекст составляет 256K токенов в исходном режиме и до 1M токенов с YaRN, что позволяет анализировать крупные репозитории и наборы документов. Доступны GGUF-квантизации от 4 до 8 бит; версия Q4_K_M занимает около 7,4 ГБ и рассчитана на запуск на компьютерах с 16 ГБ RAM. Заявленный результат HumanEval pass@1 составляет 87,8% для базовой оценки и 88,4% для Q4 GGUF по приведённым в README измерениям. Сильными сторонами являются специализация на программировании, поддержка агентных сценариев, локальное развёртывание и большой контекст. Ограничение — недостаточная практическая надёжность для полностью автоматической отладки реальных репозиториев. Для корректной работы требуется отключать режим размышлений и использовать рекомендованные параметры декодирования; фактическая длина контекста зависит от доступной памяти. Модель распространяется по лицензии Apache-2.0.

xLAM-8x7b-r-GGUF — это GGUF-квантизированная версия языковой модели xLAM-8x7b-r, разработанной Salesforce и подготовленной для распространения пользователем bartowski. Модель ориентирована на text-generation, function calling, использование инструментов и создание LLM-агентов. Обучение связано с датасетом Salesforce/xlam-function-calling-60k; заявленный язык — английский. Модель основана на архитектуре, обозначенной в карточке тегом mistral, и имеет конфигурацию 8x7B; точные сведения о числе активируемых параметров и размере контекста не указаны. Доступны варианты от F16 до сильно сжатых квантов GGUF, включая Q8_0, Q6_K, Q5_K, Q4_K и Q3/Q2, с размером файлов примерно от 17 до 93 ГБ. Квантизация выполнена с использованием llama.cpp и метода imatrix; некоторые варианты оптимизированы для ARM и CPU-инференса. Сильная сторона модели — специализация на вызове функций и взаимодействии с внешними инструментами, а также широкий выбор квантов для компромисса между качеством и требованиями к памяти. Ограничения включают заявленную ориентацию на английский язык, отсутствие данных о мультимодальности и контекстном окне, а также снижение качества у малобитных вариантов. Модель распространяется по лицензии CC BY-NC 4.0, предусматривающей некоммерческое использование; для доступа к репозиторию требуется подтверждение согласия с лицензией.

XwinCoder-34B — инструктивно дообученная модель генерации кода от команды Xwin-LM, основанная на CodeLLaMA. Она предназначена для создания и дополнения программного кода по запросам на естественном языке и для диалоговой работы с задачами программирования. В репозитории указаны результаты оценки XwinCoder-34B на HumanEval, MBPP и APPS-intro; авторы также сообщают о сравнимой с GPT-3.5-turbo производительности на шести бенчмарках. Модель построена на архитектуре LLaMA, содержит 33,5 млрд параметров и поддерживает контекст до 16 384 токенов. Карточка не сообщает перечень поддерживаемых языков программирования. Для использования требуются совместимые инструменты PyTorch и соблюдение лицензии Llama 2. Результаты бенчмарков не гарантируют качество на конкретных задачах; сгенерированный код следует проверять и тестировать.

TechxGenus/CodeGemma-7b — модель генерации кода, созданная дообучением Gemma-7b на 0,7 млрд дополнительных высококачественных токенов, связанных с программированием, в течение трёх эпох. Модель использует плотную архитектуру GemmaForCausalLM, содержит 8,2 млрд параметров и рассчитана на контекст до 8192 токенов. Для запросов применяется формат инструкций Alpaca без системного сообщения. Модель предназначена для генерации и дополнения кода по текстовым инструкциям. В README указана оценка 67,7 pass@1 на HumanEval-Python. Она работает через библиотеку Transformers и хранится в формате safetensors. Карточка отмечает ограниченную проверку: ответы могут содержать ошибки и вводить в заблуждение, а качество на задачах вне программирования может быть слабым. Лицензия указана как other; конкретные условия использования следует сверить с лицензией базовой модели и карточкой репозитория.

CodeGen2-7B_P — авторегрессионная языковая модель семейства CodeGen2, разработанная Salesforce для генерации программного кода. Модель с плотной архитектурой CodeGenForCausalLM содержит 7 млрд параметров, работает с контекстом до 2048 токенов и распространяется в формате PyTorch по лицензии Apache-2.0. Модель генерирует код по текстовым подсказкам, продолжает незавершённые фрагменты и поддерживает заполнение пропусков внутри кода. В обучении использовался очищенный набор Stack v1.1; заявлена поддержка языков C, C++, C#, Dart, Go, Java, JavaScript, Kotlin, Lua, PHP, Python, Ruby, Rust, Scala, Shell, SQL, Swift, TypeScript и Vue. В первую очередь она предназначена для синтеза программ по англоязычным комментариям и завершения кода. Качество и безопасность сгенерированного кода требуют проверки: модель не оценивалась для всех сценариев применения и может допускать ошибки. Авторы рекомендуют оценивать риски перед внедрением; карточка указывает исследовательскую направленность релиза.

TheBloke публикует веса CodeLlama-34B-Python в формате Transformers/Hugging Face FP16; исходную модель разработала Meta. Это авт autoregressive трансформер семейства Llama с 33,5 млрд параметров, специализированный на генерации и понимании кода на Python. Модель принимает и выдаёт текст, а её контекст составляет 16 384 токена. Модель подходит для написания и дополнения кода на Python, объяснения фрагментов кода и помощи в решении задач программирования. Карточка указывает на обучение с последовательностью до 16 тысяч токенов и возможность инференса до 100 тысяч, однако метаданные каталога подтверждают нативный контекст 16 384 токена. Репозиторий содержит конвертированные веса в формате safetensors; для корректной загрузки README требует `trust_remote_code=True`. Модель ориентирована на английский язык и языки программирования; применение на других естественных языках выходит за рамки заявленного назначения. Генерация может быть неточной или содержать нежелательный результат, поэтому перед внедрением требуется проверка для конкретного сценария. Указана лицензия Llama 2 с отдельными условиями использования Code Llama.

Bud Code Millenials 13B — языковая модель для генерации кода, разработанная Bud Ecosystem и дообученная для задач программирования. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, рассчитанная на контекст до 16 384 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Модель предназначена для генерации фрагментов кода по текстовому описанию и помощи в программировании. В README заявлен результат 76,21 pass@1 на HumanEval; это показатель из карточки разработчика, приведённый без независимой проверки. Модель может ошибаться и хуже справляться с задачами вне программирования. Лицензия — Llama 2.

Salesforce CodeT5+ 220M — модель семейства CodeT5+ для понимания и генерации кода, разработанная Salesforce Research. Это плотная encoder-decoder-модель на архитектуре T5 с 123,7 млн параметров, доступная в формате PyTorch; она использует токенизатор оригинального CodeT5. Модель обучена на очищенном наборе кода GitHub с разрешительными лицензиями и рассчитана на работу с кодом на C, C++, C#, Go, Java, JavaScript, PHP, Python и Ruby. Модель подходит для генерации кода по текстовому запросу, дополнения кода, поиска соответствий между текстом и кодом и других задач понимания кода. В README указано контекстное окно 512 токенов. Карточка описывает семейство как гибкое по режимам работы, но конкретный чекпойнт представлен классом T5ForConditionalGeneration. Лицензия — BSD-3-Clause. Разработчики отмечают, что модель не оценивалась для всех сценариев применения и рекомендуют проверять точность и безопасность перед внедрением.

pestova/deepseek-coder-1.3b-function-calling-v1 — компактная языковая модель для генерации текста и кода, опубликованная пользователем pestova на Hugging Face. По названию модели она ориентирована на сценарии function calling, то есть формирование структурированных вызовов функций или инструментов.

DevPearl-7B-dare-ties — объединённая модель на основе DeepSeek Coder 6.7B Instruct и SQLCoder 7B 2, опубликованная louisbrulenaudet. Для слияния применён метод DARE-TIES; конфигурация также указывает CodeLlama 7B Instruct как базовую модель, тип данных bfloat16 и маску int8. Модель предназначена для генерации текста, в том числе кода и SQL-запросов, а также для ответов на инструкции, связанные с этими задачами. Модель имеет плотную архитектуру семейства Llama с 6,6 млрд параметров и контекстом до 16 384 токенов. В метаданных указаны английский язык, формат safetensors и библиотека diffusers; лицензия — Apache 2.0. Карточка сообщает о слиянии моделей, но не приводит оценок качества или подробных результатов тестирования именно этого чекпойнта.

Это асимметрично квантованная до низкой точности версия diffusiongemma-26B-A4B-it — языковой модели Gemma 4 с архитектурой MoE и диффузионной генерацией. Версию GGUF подготовил hyperspaceai на основе unsloth/diffusiongemma-26B-A4B-it-GGUF. В модели 26 млрд параметров, около 4 млрд активных; используется 128 экспертов, из которых для каждого токена активируются 8, и 30 слоёв. Файл весит 10,98 ГБ. Модель предназначена для диалоговой генерации текста: ответы на вопросы, объяснения, списки, творческий текст и код. В отличие от обычных авторегрессионных языковых моделей, она создаёт текст итеративным параллельным уточнением токенов в контексте длиной 256 токенов. Квантование распределено асимметрично: экспертные слои в основном сжаты до 2 бит с использованием матрицы важности, а чувствительные проекции сохранены в более высокой точности. Автор сообщает о проверке генерации на CUDA и приводит примеры связных ответов, но это не независимая оценка качества. Для запуска нужен совместимый с архитектурой diffusion-gemma GGUF-рантайм; стандартная авторегрессионная генерация через llama-cli и оценка perplexity для этой модели не подходят. Лицензия — Gemma; использование должно соответствовать её условиям.

Everyone-Coder-33b-Base — модель для генерации кода из серии EveryoneLLM, созданная сообществом. По карточке, это слияние дообученных версий DeepSeek Coder 33B Base; в метаданных указаны архитектура LlamaForCausalLM, 33,1 млрд параметров и формат safetensors. Модель принимает текст и генерирует текст, поддерживает диалоговый сценарий и контекст до 16 384 токенов. Модель предназначена для решения задач программирования, включая ответы на запросы о коде и прохождение задач на программирование. Автор сообщает о хороших результатах ручных сравнений, но не приводит воспроизводимого описания бенчмарков. В карточке отмечена проблема с завершением генерации: для остановки ответа предлагается специальный шаблон и стоп-строка. Лицензия в метаданных обозначена как other, без конкретных условий в предоставленных данных.

Everyone-Coder-4x7b-Base — специализированная на программировании модель серии EveryoneLLM от Rombodawg. Она создана как Mixtral-подобная модель с экспертами, дообученными участниками сообщества и объединёнными в общую модель. Автор описывает её как альтернативу Mixtral-8x7b, которую можно дополнительно настраивать под конкретные задачи. Модель предназначена для генерации текста, прежде всего кода. Архитектура — Mixtral MoE с классом MixtralForCausalLM; объём параметров — 7,1 млрд, контекст — до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Карточка не сообщает, какие языки программирования и естественные языки поддерживаются. Модель может быть полезна для генерации и дополнения кода, а также для помощи в программировании в текстовом формате. В README перечислены модели, участвовавшие в слиянии, но их названия отсутствуют, поэтому исходные компоненты установить нельзя. Лицензия — CC BY 4.0.

Gemma 4 E4B IT Coder — модель для помощи в программировании, созданная Joseph Mayo на основе google/gemma-4-E4B-it. Это плотная мультимодальная модель семейства Gemma 4, дообученная с помощью LoRA на 1024 безопасных примерах кода; веса адаптера объединены с базовой моделью и опубликованы в формате safetensors для Transformers. Модель поддерживает диалог и анализ изображений, а основное назначение версии — генерация и помощь с кодом. В описанной автором оценке на подмножестве из 50 задач HumanEval модель решила 42 задачи против 34 у базовой версии; результаты относятся только к указанному набору и методике. README характеризует обучение как ориентированное на безвредную помощь с программированием и сообщает об исключении ряда вредоносных примеров. Лицензия — Apache-2.0.

Модель laion/GLM-4.6-stackexchange-overflow-sandboxes-32eps-65k-reasoning_num-train-epochs_8-0_Qwen3-32B — дообученная командой laion плотная языковая модель семейства Qwen3 на базе Qwen/Qwen3-32B. Она содержит 29,7 млрд параметров, работает с текстом и поддерживает диалоговый сценарий. Для неё указаны контекст до 40 960 токенов и формат весов safetensors. Модель предназначена для генерации текста, в частности ответов в стиле Stack Exchange и Stack Overflow, связанных с техническими вопросами и задачами в песочницах. README называет обучающий набор open-athena/GLM-4.6-stackexchange-overflow-sandboxes-32eps-65k-reasoning, но не приводит результатов оценки или подробностей об ограничениях. Указана лицензия other; конкретные условия использования следует проверять в карточке модели и у базовой модели.

jndpo3 — дообученная модель для генерации текста, созданная на базе deepseek-ai/deepseek-coder-1.3b-base и обученная на датасете generator. Это плотная авторегрессионная модель семейства Llama с 1,3 млрд параметров, предназначенная для продолжения текста и генерации кода. Максимальная длина контекста составляет 16 384 токена. Модель подходит для автодополнения кода и генерации текста по заданному контексту. Карточка не описывает конкретные настройки обучения, результаты оценки или дополнительные возможности. Указана лицензия other; её условия следует проверить перед использованием.

Juno-N-Coder-25B — модель для генерации кода, разработанная Locai Labs на основе NVIDIA Nemotron 3.5 Lightning 30B. Это производная модель семейства Nemotron-H, полученная структурным удалением нижних 25% экспертов алгоритмом SPACE с перенормировкой маршрутизатора; дополнительное восстановительное дообучение не проводилось. В метаданных указано 1,9 млрд параметров, а заявленная длина контекста составляет 262 144 токена. Модель предназначена для помощи в разработке программного обеспечения: генерации кода и решения задач по программированию. Карточка сообщает о близких к базовой модели результатах на LiveCodeBench v6, HumanEval+ и MBPP+, при этом общие знания и фактическое воспроизведение могут ухудшаться: в частности, приведены снижения на некоторых группах MMLU Redux. Для запуска приведён пример с vLLM и поддержкой вызова инструментов. Репозиторий использует формат Safetensors и лицензию «other»; конкретные условия этой лицензии в доступных сведениях не раскрыты.

K2-Horizon-7B-Uno-Uncensored-GGUF — это локальная GGUF-версия модели на базе IFM/K2-Horizon-7B, опубликованная пользователем geantendormi. В модель предварительно объединён адаптер Uno, после чего выполнена процедура удаления отказов и квантование с использованием iMatrix и IQ4_XS. Она предназначена для текстовой генерации, локального запуска через llama.cpp и работы на потребительских видеокартах, включая RTX 3060 с 12 ГБ видеопамяти. Модель имеет размер 7B параметров, поддерживает китайский и английский языки, использует формат GGUF и квантование IQ4_XS с плотностью около 4,25 bpw. Размер основного файла составляет примерно 4,76 ГБ. В README заявлена поддержка контекста до 16 384 токенов, а также высокая скорость инференса на RTX 3060: около 57–59 токенов в секунду при генерации и до 626,5 токена в секунду при предварительной обработке запроса. Для запуска требуется версия llama.cpp с поддержкой архитектуры K2-Horizon. Сильными сторонами являются компактный размер, возможность полностью разместить модель в памяти потребительской видеокарты, двуязычная калибровка и ориентация на генерацию кода и технических текстов. Ограничения включают агрессивное IQ4_XS-квантование, потенциальное снижение качества по сравнению с BF16-версией и зависимость от совместимости llama.cpp с нестандартной архитектурой и токенизацией. README описывает модель как uncensored, поэтому встроенные ограничения на потенциально опасные запросы были намеренно ослаблены; заявленные показатели производительности и качества представлены авторами README и не подтверждены независимой оценкой. Лицензия — Apache 2.0.

Ling-Coder-lite — языковая модель с архитектурой Mixture of Experts (MoE), разработанная InclusionAI для генерации и понимания программного кода. В карточке README указано 16,8 млрд параметров, из которых активируются 2,75 млрд; модель представлена как дообученная версия Ling-Coder-lite-base. Метаданные репозитория указывают 1,5 млрд параметров и контекст 4096 токенов, тогда как README сообщает контекст 16K; эти характеристики в источниках расходятся. Модель предназначена для задач программирования и диалогового взаимодействия: она может генерировать код и отвечать на вопросы по коду. Разработчики сообщают о результатах на 12 бенчмарках программирования и о конкурентных задержке и пропускной способности среди кодовых моделей сопоставимого размера. В обучении использовались наборы Ling-Coder-SFT, Ling-Coder-SyntheticQA и Ling-Coder-DPO. Репозиторий опубликован в формате safetensors для библиотеки Transformers. Указанные языки — английский и китайский. Лицензия MIT разрешает широкое использование при соблюдении её условий.

LYRA-CODER — компактная разговорная модель генерации текста, разработанная и поддерживаемая Мухаммадом Таки. В метаданных указаны архитектура Qwen2 с причинной языковой моделью, 1,5 млрд параметров и контекст до 32 768 токенов; README также называет LYRAMOON архитектурной основой и заявляет о быстрой генерации ответов. Модель предназначена для чата и задач генерации кода, что отражено в названии и тегах. Модель работает с текстом и может использоваться для диалоговых ответов, генерации кода и вызова инструментов через соответствующий интерфейс. В карточке указан английский язык. Репозиторий содержит веса Safetensors, а лицензия — Apache-2.0. README не приводит результатов оценки качества или подробностей обучения, поэтому заявленную скорость и пригодность для рассуждений нельзя проверить по предоставленным данным.

MiniMax-M3-Coder-Small — компактная сборка MiniMax-M3 для программирования и агентных сценариев, подготовленная OsaurusAI для устройств Apple Silicon. Модель основана на MiniMaxAI/MiniMax-M3 и использует разреженную архитектуру MiniMax M3 VL; сохранены мультимодальные возможности для работы с изображениями. Сборка занимает около 84 ГБ и применяет формат JANG: смешанную квантизацию с AWQ-масштабированием и сокращением набора маршрутизируемых экспертов методом REAP. Оставлено 70 из 128 экспертов; веса экспертов имеют разрядность 2 бита, разрядность внимания — 8 бит. Для запуска требуется собственная среда Osaurus на Apple Silicon: модель не загружается через Transformers, vLLM или обычные загрузчики MLX. В README заявлен результат HumanEval pass@1 100% на адаптивной оценке из 82 задач, однако это результат конкретного теста, а не гарантия качества в других условиях. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели и у базовой модели MiniMaxAI/MiniMax-M3 перед применением.

OmniCoder-9B — языковая модель Tesslate на 9 млрд параметров, дообученная на базе Qwen/Qwen3.5-9B для задач программирования и работы в роли кодового агента. Модель использует гибридную архитектуру с Gated Delta Networks и стандартными слоями внимания, поддерживает контекст до 262 144 токенов и режим рассуждений. Модель обучена на более чем 425 тысячах траекторий агентной разработки ПО: написании и изменении кода, работе с инструментами и терминалом, разборе ошибок и многошаговых задачах. Она рассчитана на интеграцию в среды кодовых агентов; формат вызова инструментов гибкий, но лучше работает со scaffolding-паттернами, похожими на те, что представлены в обучающих данных. В репозитории указана поддержка архитектуры VLM Qwen3.5, однако карточка описывает прежде всего применение для программирования. В карточке приведены результаты на GPQA Diamond, AIME 2025 и Terminal-Bench 2.0; они не гарантируют аналогичное качество в других задачах. Небольшой объём оценки неанглоязычных задач ограничивает выводы о работе за пределами английского. Модель распространяется по лицензии Apache 2.0.

Opencsg-CodeLlama-7b-v0.2 — созданная OpenCSG полнопараметрическая донастройка CodeLlama-7b-hf, генеративной языковой модели семейства Llama для работы с кодом. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текстовые запросы с контекстом до 16 384 токенов. Модель предназначена для генерации и дополнения кода. В README приведён результат 50,0% Pass@1 на Python HumanEval при жадном декодировании и исходных формулировках заданий; авторы отмечают, что обучающая выборка включает несколько языков программирования. Это единственный приведённый бенчмарк, поэтому он не описывает качество на других задачах и при иных настройках генерации. Веса опубликованы в формате safetensors. Лицензия в метаданных указана как llama2; перед использованием следует учитывать условия лицензии Llama 2.

Ornith-1.5-35B-A3B Abliterated — CyberTiel-Calibrated MTPv2 ICE — это модель для генерации текста в формате GGUF, разработанная на основе huihui-ai/Huihui-Ornith-1.5-35B-A3B-abliterated с использованием материалов peculiar-ragdoll/Cyber-Tiel-Coder-35B-A3B-GGUF-MTP. Модель предназначена для запуска через llama.cpp и других совместимых инструментов. Указаны поддерживаемые языки English и Chinese. Модель использует архитектуру MoE с заявленным размером 35B и примерно 3B активных параметров, а также собственную обученную MTPv2 head. В репозитории доступны несколько ICE-квантовок размером примерно от 18,82 до 24,85 ГБ и мастер-версия BF16 размером 71,07 ГБ. Встроены шаблон чата Qwen-Sharp v22.4.1 и importance matrix, согласованная с исходной моделью. Рекомендуемый вариант 23G-ICE занимает 22,84 ГБ и рассчитан на системы с 24–32 ГБ совокупной RAM и VRAM; фактический доступный контекст зависит от оборудования и выбранного квантования. Сильными сторонами являются несколько вариантов квантования с разным балансом качества и требований к памяти, хорошие результаты измерений на английском тексте и коде, а также оптимизация для локального запуска. Ограничения включают потерю качества при более агрессивном квантовании и отсутствие гарантированного поведения в задачах, языках и контекстах, не представленных в README. Это abliterated-модель с подавленным поведением отказа, поэтому она может выполнять запросы, от которых стандартная модель отказалась бы; запуск требует изоляции и контроля доступа к сети и выполнению кода. Модель распространяется по лицензии MIT.

OxCoder-9B-MERNIK-GGUF — это набор GGUF-квантизированных сборок модели OxCoder-9B, разработанной OrionLLM и дообученной для агентного программирования. Модель предназначена для генерации кода и решения задач программирования; в README приведены результаты на HumanEval, где лучшая сборка показывает pass@1 90,24% (148 из 164 заданий). Модель рассчитана на использование с llama.cpp и поддерживает формат GGUF. Базовая модель имеет около 9 млрд параметров, языком заявлен английский, а заявленный контекст составляет 262K токенов. Квантизация MERNIK использует распределение битности на основе imatrix с учётом perplexity, KLD относительно эталона и результатов на оцениваемых задачах. Доступны сборки размером 5,36 ГБ (Q4) и 6,83 ГБ (Q8); для сравнения приведена стандартная Q6_K размером 7,36 ГБ. Сильной стороной является высокая эффективность на HumanEval, однако показатели зависят от конкретной сборки, а результаты на нестандартном тесте GPQA-recognition ниже, чем у некоторых альтернатив, поэтому они не характеризуют полноценные рассуждения. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen2.5-Coder-0.5B-Instruct — это дообученная Unsloth версия компактной инструктивной модели Qwen2.5-Coder с архитектурой Qwen2ForCausalLM. Она содержит 494 млн параметров, использует плотную архитектуру и поддерживает контекст до 32 768 токенов. Репозиторий модели указывает формат safetensors и библиотеку Transformers; лицензия — Apache-2.0. Модель предназначена для генерации и исправления кода, объяснения программных фрагментов и диалоговых сценариев помощи разработчикам. Её также можно использовать как основу для простых кодовых агентов через интерфейс вызова инструментов. Метаданные указывают английский язык; модель принимает текст и генерирует текст. Компактный размер облегчает развёртывание по сравнению с крупными кодовыми моделями, но может ограничивать качество на сложных задачах программирования и длинных многошаговых запросах. README описывает семейство Qwen2.5-Coder, однако приведённые в нём детали обучения и архитектуры относятся к базовой серии и не подтверждают отдельные результаты оценки именно этой инструктивной версии.

tzervas/qwen2.5-coder-14b-bitnet-1.58b — экспериментальная квантизованная версия Qwen2.5-Coder-14B-Instruct, подготовленная автором репозитория tzervas. Это плотная причинная языковая модель семейства Qwen2 для генерации кода в диалоговом формате. Архитектура содержит 14,7 млрд параметров, веса представлены тернарными значениями {-1, 0, +1}, упакованными по четыре значения в байт; заявленный контекст — 32 768 токенов. Доступны форматы SafeTensors и GGUF. Модель предназначена для генерации, анализа и исправления кода, а также ответов на запросы о программировании. В README описана квантизация absmean с групповым масштабированием; для работы с тернарными весами требуется совместимая среда выполнения. Для версии GGUF автор приводит пример запуска через llama.cpp. Качество и производительность не прошли формальную оценку, поэтому результаты могут заметно уступать исходной модели и требуют проверки на целевых задачах. Для обычного использования через стандартный Transformers поддержка тернарных весов не заявлена. Лицензия — Apache-2.0.