II.7DevOps, облако и эксплуатация IT-систем

Youssofal/Qwen3.6-27B-MTPLX-Optimized-Speed — модель для генерации текста, созданная на основе Qwen/Qwen3.6-27B и адаптированная Youssofal для runtime MTPLX. Она предназначена для локального запуска и ускоренной генерации, прежде всего на компьютерах Apple Silicon, включая сценарии программирования, интерактивной работы с текстом и развертывания сервиса через MTPLX. Модель использует архитектуру qwen3-next-mtp и встроенные Multi-Token-Prediction heads для speculative decoding без внешней draft-модели. Основная часть представляет собой flat 4-bit affine-конверсию, а MTP-компонент — предварительно квантованный INT4 sidecar. Максимальная глубина MTP равна 3; верифицированный runtime рассчитан на Apple M5 Max с 128 ГБ unified memory. Для указанного профиля заявлена скорость до 63,056 токена в секунду на тестовом кодовом запросе, однако фактическая производительность зависит от оборудования, настроек и нагрузки. В README не указаны поддерживаемые языки, размер контекста и мультимодальные возможности. Сильная сторона модели — ускоренная декодировка за счёт встроенного speculative decoding и точной проверки предложенных токенов; заявленное ускорение достигает 2,24 раза по сравнению с обычной генерацией в соответствующих условиях. Ограничения включают зависимость от MTPLX и Apple Silicon, статус runtime как preview, поддержку только backend qwen3-next-mtp в MTPLX v0.1.0-preview и необходимость учитывать результаты бенчмарка как зависящие от конкретного теста. Базовая модель и конверсия MTPLX распространяются по лицензии Apache-2.0.

RegexGym-Qwen3-4B — дообученная модель Qwen3-4B от ctokx, предназначенная для построения регулярных выражений по примерам строк. Пользователь передаёт строки, которые должны соответствовать шаблону, и строки, которые не должны ему соответствовать; модель предлагает одно регулярное выражение, разделяющее эти группы. Модель основана на плотной архитектуре Qwen3ForCausalLM с 3,7 млрд параметров и контекстом до 40 960 токенов. Она сначала формирует рассуждение, затем выводит шаблон в блоке regex. Для обучения использовали полное дообучение в течение трёх эпох на 660 проверенных трассах рассуждений; примеры предварительно проверялись исполнением регулярного выражения. README приводит оценку на 120 отложенных задачах и отмечает, что модель превосходит исходную Qwen3-4B, но уступает более крупной модели-учителю и не всегда строит точный шаблон. Модель подходит для синтеза регулярных выражений по положительным и отрицательным примерам. В метаданных указана лицензия other; конкретные условия этой лицензии следует уточнить на странице репозитория.

teknium/Replit-v1-CodeInstruct-3B — языковая модель для генерации кода и выполнения инструкций, разработанная Teknium на основе Replit Code v1. Это плотная авторегрессионная модель семейства MPT с архитектурой MPTForCausalLM, дообученная на наборах CodeAlpaca и GPTeacher Code-Instruct примерно на 25 тысячах пар «инструкция — ответ» в формате Alpaca. Модель принимает текстовые инструкции и выдаёт текст, в том числе код. Карточка описывает сценарии работы с инструкциями по программированию; сведения о поддерживаемых языках программирования и длине контекста не приведены. Модель подходит для генерации фрагментов кода по запросу и ответов на вопросы о программировании. Для загрузки README указывает необходимость trust_remote_code=True и предупреждает о проблемах с device="auto". Репозиторий содержит веса PyTorch. Лицензия — CC BY-SA 4.0.

Securin-LLM-V2.5-Qwen-1.5B — компактная языковая модель, созданная Securin слиянием моделей методом TIES с помощью mergekit. В основу вошли Qwen/Qwen2.5-Coder-1.5B-Instruct и securin/qwen_finetune_intermediate; базовой моделью указана Qwen/Qwen2.5-Coder-1.5B. Модель имеет архитектуру Qwen2ForCausalLM, содержит 1,5 млрд параметров и работает с контекстом до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате, в частности для задач, связанных с кодом, как и её базовая инструкционная модель Qwen Coder. Данные карточки не описывают отдельные результаты оценки качества или перечень языков программирования. Весовые файлы представлены в формате safetensors; лицензия в предоставленных данных не указана.

SlactusAIAstris — компактная языковая модель SakitsunaAI на архитектуре Qwen2, дообученная на unsloth/Qwen2.5-Coder-0.5B-Instruct. Она предназначена для генерации текста в диалоговом формате и унаследовала от базовой модели сценарии работы с кодом, включая его создание, объяснение и исправление. Модель содержит 494 млн параметров, принимает текст и поддерживает контекст до 32 768 токенов. Модель поставляется в формате Safetensors и распространяется по лицензии Apache-2.0. Карточка сообщает, что обучение выполнялось с использованием Unsloth; сведения о конкретных обучающих данных и результатах оценки качества не приведены.

speechless-coding-7b-16k-tora — языковая модель для генерации кода, представленная автором карточки как дообучение llm_agents/tora-code-7b-v1.0. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров и контекстом до 16 384 токенов; для работы используется библиотека Transformers и формат PyTorch. Модель обучалась на инструкционных примерах для программирования, рассуждений и планирования из наборов Airoboros, OpenOrca, Open-Platypus, WizardLM и Python Eval. Она принимает запросы в формате Alpaca и предназначена для генерации кода и ответов на инструкции по программированию. В README приведены результаты HumanEval и MultiPL-E, включая задачи на Python, Java и JavaScript. Модель распространяется по лицензии Llama 2. Результаты бенчмарков не гарантируют качество на произвольных задачах; ответы с кодом следует проверять и тестировать.

WizardCoder-15B-V1.0 — языковая модель для генерации кода, разработанная командой WizardLM. Модель основана на StarCoder, дообученном на 78 тысячах инструкций по программированию, расширенных методом Evol-Instruct для задач кодирования. Модель предназначена для генерации решений задач программирования и ответов на инструкции, связанные с кодом. В карточке приведён результат 57,3 pass@1 на HumanEval; также описана оценка на MBPP. Архитектура — GPTBigCodeForCausalLM, формат весов — PyTorch, контекст — 8192 токена. Метаданные указывают поддержку кода, но не перечисляют естественные языки. Модель может помогать с написанием кода по текстовому запросу, однако качество следует проверять: результаты карточки относятся к конкретным тестам и режимам генерации. Лицензия — BigScience OpenRAIL-M.

Wrench-4B-Qwen3.6-8E — экспериментальная специализированная SLM-модель для инструментов разработчика, опубликованная пользователем или организацией stancsz. Она создана на основе Qwen3.6-35B-A3B и предназначена для генерации текста и кода, работы с задачами разработки, чтения файлов и подготовки обзорных изменений в локальном репозитории. Модель содержит 3 881 244 016 параметров, использует веса ModelOpt NVFP4 W4A16 и рассчитана на контекст до 4 миллионов токенов в составе собственного пакета и локального окружения. Поставка включает tokenizer hook, локальный runtime, read-only verifier, long-context overlay и OpenAI-совместимый сервер. Для однозначных операций чтения и подготовки изменений может применяться механический маршрут без вызова модели, а неоднозначные запросы передаются модели. К сильным сторонам относятся специализация на developer-tools, поддержка длинного контекста, компактный размер и встроенная проверка предлагаемых операций. Ограничения связаны с экспериментальным статусом: README не подтверждает прохождение полной оценки на 220 случаях, достижение целевых показателей качества поиска, сопоставимости с MiniMax или производительности в production. Языки и точные архитектурные характеристики, помимо производного происхождения и параметров квантования, не указаны. Модель распространяется по лицензии Apache-2.0.

openhands-lm-7b-v0.1-GGUF — это квантизированная GGUF-версия языковой модели openhands-lm-7b-v0.1, разработанной all-hands и подготовленной bartowski с использованием llama.cpp. Модель предназначена для генерации текста и сценариев, связанных с агентным программированием и разработкой программного обеспечения; среди указанных данных обучения присутствует SWE-Gym. Поддерживаемый язык — английский. Модель имеет размер 7B параметров и поставляется в нескольких вариантах точности, включая BF16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K. Квантизация позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти: рекомендуемые варианты обеспечивают высокое или хорошее качество, а варианты с меньшим размером экономят ресурсы за счёт снижения качества. Доступны запуск через LM Studio, llama.cpp и другие проекты на базе llama.cpp; для работы следует использовать указанный формат промпта с ролями system, user и assistant. Сильными сторонами являются специализация на задачах программирования, агентных сценариях и возможность локального запуска в различных квантизированных конфигурациях. Ограничения включают отсутствие сведений о точной архитектуре, размере контекста, мультимодальности и результатах оценки; модель заявлена только для английского языка. Лицензия — MIT.

duyntnet/DeepCoder-14B-Preview-imatrix-GGUF — GGUF-квантизированные версии DeepCoder-14B-Preview, разработанного на базе DeepSeek-R1-Distilled-Qwen-14B с применением распределённого обучения с подкреплением. Модель предназначена прежде всего для генерации, анализа и решения задач программирования, включая соревнования по написанию кода, автоматическое создание решений и рассуждения по тестам. Указанный репозиторий содержит квантизированные варианты модели для локального запуска. Модель имеет 14 млрд параметров и поддерживает английский язык. Она обучалась на примерно 24 тысячах пар задач и тестов из Taco-Verified, PrimeIntellect SYNTHETIC-1 и LiveCodeBench v5. Благодаря итеративному увеличению длины контекста модель обучалась на 16K и 32K токенах и обобщается на контекст до 64K токенов. В качестве сильных сторон заявлены показатели 60,6% Pass@1 на LiveCodeBench v5, рейтинг 1936 на Codeforces и 92,6% на HumanEval+. Ограничениями являются ориентация преимущественно на задачи программирования, возможное усечение длинных ответов при ограничении длины генерации 16K токенами и отсутствие подробных данных о конкретных параметрах отдельных GGUF-квантизаций. Для запуска доступны llama.cpp, KoboldCPP, Ollama, text-generation-webui, Jan, GPT4All, LM Studio и другие совместимые средства, а для серверного развёртывания указаны vLLM, Hugging Face TGI, SGLang и TensorRT-LLM. Рекомендуются temperature 0,6, top_p 0,95 и max_tokens не менее 64000; системный промпт добавлять не рекомендуется. Лицензия обозначена как other, без дополнительных условий в представленном README.

DeepSeek-Coder-Instruct-8x1.3b — чат-модель для генерации текста, опубликованная SanjiWatsuki. Это объединение нескольких моделей с помощью mergekit; архитектура Mixtral использует разреженную смесь экспертов. В репозитории указано 1,3 млрд параметров и контекст до 16 384 токенов. Модель предназначена для диалогового использования и генерации текста; название указывает на специализацию на программировании, однако README не описывает конкретные возможности или качество в задачах кодирования. Файлы опубликованы в формате safetensors. Лицензия — Apache-2.0. README не раскрывает состав объединения, поэтому базовые модели определить нельзя.

evol-codealpaca-v1-sft-4e-5 — дообученная Aleksey Korshuk модель генерации текста на архитектуре Phi-2 от Microsoft. Модель содержит 3,5 млрд параметров, использует PyTorch и формат safetensors, а её контекст ограничен 2048 токенами. Модель предназначена для генерации текста в диалоговом формате и может применяться для запросов, связанных с кодом. Карточка называет её дообученной на наборе данных, название которого не приведено; отдельные сведения о качестве, методике оценки и ограничениях отсутствуют. Лицензия — MIT.

Модель laion/GLM-4.6-stackexchange-overflow-sandboxes-32eps-65k-reasoning_global-batch-size_64_Qwen3-32B — дообученная командой LAION плотная языковая модель семейства Qwen3 на базе Qwen/Qwen3-32B. Она предназначена для генерации текста в диалоговом формате; название и датасет обучения указывают на настройку для задач Stack Exchange и Stack Overflow, включая ответы на вопросы и рассуждения о коде. Модель содержит 29,7 млрд параметров, использует архитектуру Qwen3ForCausalLM, файлы весов представлены в safetensors, а нативный контекст составляет 40 960 токенов. Модель может применяться для ответов на технические вопросы, объяснения решений и помощи с программированием. Карточка не приводит результаты оценки, подробное описание поведения или условия лицензии; в метаданных указана лицензия other, поэтому перед использованием следует проверить её условия. Также README не раскрывает возможные ограничения набора данных и качество на задачах вне Stack Exchange и Stack Overflow.

Huihui-NeoHorse-1-4B-abliterated-GGUF — языковая модель для генерации текста, разработанная huihui-ai на базе TokenRhythm/NeoHorse-1-4B. Модель распространяется в формате GGUF и предназначена для задач следования инструкциям, рассуждений, программирования, использования инструментов и агентских сценариев. В карточке также указано наличие компонентов MTP и Visual, извлечённых из Qwen/Qwen3.5-4B, что должно обеспечивать поддержку визуальных возможностей, однако подробные сведения о поддерживаемых модальностях и языках не приведены. Это экспериментальная версия с уменьшенной фильтрацией отказов, полученная методом abliteration: аблированы слои 5–17 с индексацией от нуля. Заявленный размер — около 1,4 млрд параметров, а рекомендуемый размер контекста при использовании через llama.cpp составляет 262144 токена. К сильным сторонам относятся компактность, поддержка локального запуска через llama.cpp и ориентация на кодирование, рассуждения и tool use. При этом метод модификации описан как грубая proof-of-concept реализация, поэтому качество, стабильность и поведение модели могут быть непредсказуемыми. Фильтрация контента существенно ослаблена, поэтому модель может генерировать чувствительные, спорные или неподходящие материалы и не предоставляет стандартных гарантий безопасности. Она рекомендуется преимущественно для исследований, тестирования и контролируемых сред, а не для публичных или критически важных производственных приложений; необходимы мониторинг и проверка результатов человеком. Лицензия — Apache 2.0.

Jan-Code-4B — дообученная командой Jan на Jan-v3-4B-base-instruct компактная плотная языковая модель семейства Qwen3 с 3,7 млрд параметров. Она предназначена для генерации и редактирования кода, рефакторинга и отладки, а также для локального запуска в роли лёгкого исполнителя подзадач в агентных системах. Модель поддерживает диалоговый режим, работает с текстом и рассчитана на контекст до 262 144 токенов. Модель ориентирована на хорошо ограниченные повседневные задачи программирования, где важны скорость ответа и скромные вычислительные требования; её можно подключить через Jan Desktop или запускать с vLLM. README рекомендует её для небольших агентных задач, но не приводит результатов сравнительных оценок. Лицензия Apache-2.0.

Jan-v2-VL-med-gguf — мультимодальная vision-language модель примерно на 8 млрд параметров, разработанная Jan. Модель предназначена для многошаговых задач в реальных программных средах, включая браузеры и настольные приложения. Она ориентирована на агентную автоматизацию и управление интерфейсами с опорой на скриншоты и вызовы инструментов, когда план или необходимые знания заданы заранее, а результат зависит от стабильного выполнения длинной последовательности действий. Модель объединяет языковое рассуждение и визуальное восприятие, поддерживает текстовые и визуальные входы и заявлена для английского языка. Вариант med обеспечивает баланс между качеством и задержкой среди вариантов Jan-v2-VL-low, med и high. Модель разработана для поддержания промежуточного состояния, выполнения инструкций с минимальным отклонением и восстановления после небольших ошибок. README не указывает точный размер контекста и специфические ограничения по поддерживаемым форматам изображений. По заявлению разработчиков, Jan-v2-VL не уступает базовой Qwen-3-VL-8B-Thinking на стандартных текстовых и визуальных задачах и превосходит её на некоторых оценках, обеспечивая более сильное выполнение длинных цепочек действий. Для локального запуска предусмотрена интеграция с Jan App, а также поддержка llama.cpp и vLLM; GGUF-вариант рассчитан на использование с llama.cpp. Модель распространяется по лицензии Apache 2.0.

Kimi K2.75 Code — экспериментальный объединённый чекпойнт, созданный автором репозитория на основе moonshotai/Kimi-K2.7-Code и moonshotai/Kimi-K2.6. Веса объединены методом SLERP с разными коэффициентами для attention, MLP и прочих тензоров, затем чекпойнт был прорежен и упакован в safetensors. Модель предназначена для генерации текста в сценариях, связанных с программированием. Её архитектура обозначена как Kimi K2.5, класс — KimiK25ForConditionalGeneration; в метаданных указан формат safetensors и библиотека Transformers. Репозиторий помечен лицензией other, поэтому перед использованием следует проверить условия лицензии. Качество модели ещё не оценено полностью. Автор рекомендует проверять результаты перед практическим применением; конвертация в GGUF, квантизация и smoke-тестирование на момент публикации могли продолжаться.

Macaron-V1-Coding-Venti-MLX-Q4i — квантизированная версия модели Macaron-V1-Coding-Venti для генерации текста и помощи в программировании. Согласно метаданным, модель связана дообучением с zai-org/GLM-5.2 и использует архитектуру GLM MoE DSA. Репозиторий рассчитан на библиотеку MLX; README сообщает о тестировании на M3 Ultra с 512 ГиБ памяти и скорости около 14,7 токена в секунду при генерации на 1000 токенов. Модель предназначена для диалогового использования и задач генерации кода. Объём параметров указан как 30,4 млрд, контекст — до 1 048 576 токенов. Метаданные указывают английский язык. Лицензия в предоставленных сведениях не указана. Ответы модели могут быть неточными или неуместными; результаты следует проверять перед использованием в важных решениях.

Карточка модели Kukedlc/NeuralExperiment-7b-MagicCoder-v7 на Hugging Face совпадает с карточкой Kukedlc/NeuralExperiment-7b-MagicCoder-v7.5, поэтому описание составлено по ней. Kukedlc разработал экспериментальную языковую модель NeuralExperiment-7b-MagicCoder-v7.5 на архитектуре Mistral с 7,1 млрд параметров. Это дообученная версия Kukedlc/NeuralExperiment-7b-dare-ties: автор обучал модель, начиная с последнего слоя, на данных по математике, программированию и логическим задачам. В метаданных указан контекст до 32 768 токенов. Модель предназначена для генерации текста, в частности для ответов на математические задачи, решения логических головоломок и генерации или понимания кода. Автор сообщает о предварительных обнадёживающих результатах на математических задачах с неочевидными условиями, но отмечает, что оценка влияния обучения ещё продолжается. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

OpenCodeInterpreter-DS-33B — модель генерации кода из семейства OpenCodeInterpreter, разработанного для объединения генерации программ с их выполнением и последующей доработкой по обратной связи. Модель основана на deepseek-coder-33b-base и использует плотную архитектуру LlamaForCausalLM с 33,1 млрд параметров. Она принимает текстовые запросы и генерирует текст, в том числе программный код; семейство рассчитано на итеративное улучшение решений с учетом результатов выполнения кода. Модель подходит для написания кода по описанию задачи, создания программных решений и интерпретации кода. Контекст составляет 16 384 токена. В карточке указана поддержка английского языка и лицензия Apache-2.0. Описание семейства говорит о пользе обратной связи от выполнения кода, но не подтверждает, что этот репозиторий сам содержит среду исполнения или автоматически выполняет код.

OpenCoder-1.5B-Base — базовая языковая модель для кода из семейства OpenCoder, разработанного как открытый и воспроизводимый проект. Модель с архитектурой Llama содержит 1,7 млрд параметров и принимает последовательности длиной до 4096 токенов. Она обучена с нуля на 2,5 трлн токенов, преимущественно на исходном коде, и предназначена для генерации кода и дальнейшей адаптации под задачи программирования. Модель поддерживает английский и китайский языки. В карточке OpenCoder приведены результаты на HumanEval(+), MBPP(+) и BigCodeBench; проект также публикует обучающие данные, конвейер их обработки и материалы об экспериментах. Репозиторий содержит веса PyTorch и Safetensors. Лицензия указана как other, поэтому перед использованием следует проверить её условия в карточке модели.

Python-Tab-Completion-CodeLlama-70b — вариант Code Llama на 70 млрд параметров, разработанный Meta и размещённый в неофициальном репозитории emissary-ai. Это авторегрессионная плотная Transformer-модель для генерации и понимания кода, настроенная для Python и предназначенная, в частности, для автодополнения кода. Она принимает текст и генерирует текст; поддерживает контекст до 4096 токенов. Модель не предназначена для диалогового следования инструкциям или инфиллинга. Модель может помогать дописывать фрагменты Python и создавать или разбирать код. Карточка указывает на применение в коммерческих и исследовательских сценариях, но README ограничивает предполагаемые естественные языки английским; основная специализация — язык программирования Python. Веса доступны в форматах PyTorch и Safetensors. Использование регулируется лицензией Meta для Llama 2.

QaptaanLM-0.75B-Instruct-ONNX — это экспорт весов модели QaptaanLM-0.75B-Instruct в формате ONNX Runtime. Модель связана с разработчиком kaptaan45; репозиторий также содержит ссылку на GitHub-проект QaptaanLM-0.75B. Версия предназначена для локального запуска через ONNX Runtime, в том числе в браузере на стороне клиента с использованием WebGPU, а также в Node.js и кроссплатформенных настольных приложениях. Модель относится к каузальным языковым моделям с instruction-tuning и ориентирована прежде всего на генерацию текста и программного кода. В README заявлена поддержка английского языка и кода, а среди характеристик указаны совместимость с ONNX, ONNX Runtime и WebGPU, а также hybrid attention и связь с семейством Qwen/Qwen3.5. Размер модели составляет около 0,75 млрд параметров. Для работы используются токенизатор Transformers и ONNX-граф model.onnx с тензорными сегментами; запуск возможен на CPU и CUDA через соответствующие execution provider. Сильными сторонами являются небольшой размер, возможность локального и браузерного выполнения, кроссплатформенность и специализация на инструкциях и задачах программирования. README не содержит подробных результатов бенчмарков, ограничений по длине контекста, описания точной архитектуры или сведений о поддержке других модальностей, поэтому эти характеристики нельзя подтвердить. Модель распространяется по лицензии Apache 2.0.

mergekit-community/Qwen2-2B-RepleteCoder-Hercules — объединённая модель на архитектуре Qwen2, созданная сообществом с помощью mergekit. В неё вошли M4-ai/Hercules-5.0-Qwen2-1.5B и Replete-AI/Replete-Coder-Qwen2-1.5b; применён метод passthrough. Модель содержит около 1,9 млрд параметров и предназначена для генерации текста в диалоговом режиме, в том числе для задач программирования благодаря включению Replete Coder. Модель использует библиотеку Transformers, веса доступны в формате safetensors, заявленная длина контекста — до 131 072 токенов. В метаданных не указаны языки и лицензия; конкретные условия использования следует проверять у исходных моделей и в репозитории. Практическое качество и ограничения на задачах программирования отдельно не описаны.

mergekit-community/Qwen2-2B-RepleteCoder-Upscaled — языковая модель, полученная сообществом с помощью mergekit из слоёв Replete-AI/Replete-Coder-Qwen2-1.5b. Это плотная авторегрессионная модель архитектуры Qwen2 с 1,9 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Конфигурация passthrough собирает слои базовой модели в изменённой последовательности; веса сохранены в формате safetensors и bfloat16. Заявленная длина контекста — 131 072 токена. Модель подходит для генерации и продолжения кода, а также для диалоговых сценариев с программированием. Карточка не приводит результаты оценивания качества или перечень поддерживаемых языков, поэтому такие характеристики нельзя надёжно уточнить. Лицензия в предоставленных данных не указана.

Это текстовая инструкционная модель на 494 млн параметров из семейства Qwen2.5-Coder, размещённая пользователем aliorbz и связанная с Gensyn Swarm. По названию репозитория и официальной карточке базовой модели можно заключить, что она предназначена для генерации и исправления кода, рассуждений о коде и диалогового выполнения инструкций; подтверждённых сведений о специфическом эффекте дообучения Gensyn Swarm в доступных источниках нет. Архитектура — плотная причинная языковая модель Qwen2 с контекстом до 32 768 токенов; базовая модель Qwen2.5-Coder-0.5B-Instruct имеет около 0,49 млрд параметров и поддерживает генерацию текста. Семейство Qwen2.5-Coder обучено для работы с кодом и сохраняет общие языковые и математические возможности. Карточка базовой модели указывает лицензию Apache-2.0; наличие этой лицензии для производного репозитория отдельно не подтверждено. Модель небольшая, поэтому качество и надёжность генерации могут уступать более крупным моделям.

Qwen2.5-Coder-0.5B-Instruct-heretic — небольшая языковая модель для генерации текста и кода, разработанная на основе Qwen/Qwen2.5-Coder-0.5B-Instruct. Модель опубликована пользователем saidutta69 и модифицирована с помощью Heretic 1.4.0: целевые изменения весов подавляют встроенное поведение отказа без дообучения, поэтому исходные знания и навыки следования инструкциям должны в значительной степени сохраняться. Модель предназначена для локальных кодовых агентов, сценариев copilot, генерации и обработки программного кода, ролевых приложений и исследований механизмов выравнивания и отказов моделей. Она содержит около 0,5 млрд параметров, ориентирована на текстовую модальность и заявляет английский язык. Доступны веса BF16 и варианты GGUF, включая F16, Q8_0, Q5_K_M и Q4_K_M; благодаря небольшому размеру модель подходит для запуска на CPU, Apple Silicon и видеокартах с ограниченной памятью. Размер контекста в README не указан. Сильной стороной является компактность и существенно сниженная частота отказов: в приведённом тесте она составила 8 из 100 случаев против 52 из 100 у исходной модели, при низком заявленном KL-расхождении 0,1249. Ограничения включают небольшой размер, унаследованные фактические ограничения и предвзятости базовой модели, а также намеренное отсутствие защитных фильтров: модель может выполнять запросы, от которых исходная версия отказалась бы, включая небезопасные. Для публичных неотмодерированных сервисов её использование не рекомендуется. Лицензия — Apache 2.0, унаследованная от базовой модели.

teknium разработал Replit-v2-CodeInstruct-3B — инструкционную донастройку базовой модели replit/replit-code-v1-3b семейства MPT с плотной архитектурой для генерации кода. Модель обучена следовать инструкциям в формате Alpaca и выдавать ответы на задачи по программированию. Для дообучения использовались около 25 тысяч пар инструкций и ответов из CodeAlpaca и GPTeacher Code-Instruct; обучение проходило на двух A100 80 ГБ. По сравнению с первой версией, обучавшейся на последовательностях длиной 512 токенов, здесь использовались последовательности длиной 2000 токенов. Модель распространяется в формате PyTorch по лицензии CC BY-SA 4.0. Модель подходит для генерации кода по текстовому заданию и ответов на инструкции по программированию. Автор сообщает о проблемах с параметром device="auto" и необходимости загружать модель с trust_remote_code=True; качество и корректность кода следует проверять.

SantaCoderPack — предварительно обученная модель для генерации и дополнения кода, разработанная в рамках проекта BigCode. Она использует архитектуру GPTBigCode с multi-query attention и обучалась на данных CommitPack в формате, связывающем код до сообщения об изменении, само сообщение и код после него. Карточка указывает 250 тысяч шагов обучения и 131 млрд токенов предобучения; модель представлена в формате PyTorch и поддерживает контекст до 8192 токенов. Модель предназначена для генерации кода по инструкциям, исправления ошибок и работы с изменениями кода. В README перечислены Python, JavaScript, Java, C++, Go и Rust. Она рассчитана на сценарии программирования, однако качество может различаться по языкам и задачам; инструкция к примеру показывает, что полезно формулировать запрос в контексте фрагмента кода. Лицензия — BigCode OpenRAIL-M.

Speechless CodeLlama 34B v1.9 — дообученная модель на базе CodeLlama-34B от Meta, опубликованная uukuguy. Она создана для генерации и понимания кода, а также для улучшения способностей модели к рассуждению и планированию. Дообучение выполнено на 122 828 примерах из наборов Airoboros 2.2, OpenOrca и Open-Platypus. Модель использует авторегрессионную архитектуру Transformer семейства Llama, содержит 33,5 млрд параметров и имеет контекст длиной 16 384 токена. Принимает текст и генерирует текст; карточка сообщает о поддержке английского языка и задачах работы с кодом. В README приведён результат 70,73 на HumanEval-Python, однако он не описывает методику оценки. Модель подходит для автодополнения и генерации кода, а также для задач, требующих рассуждений и планирования. README указывает, что исходный CodeLlama предназначен для работы с кодом и не позиционируется как Python-специалист или чат-модель; ответы могут быть неточными или нежелательными, поэтому модель следует проверять в целевом сценарии. Лицензия — llama2 (лицензия Meta для Code Llama).