II.2Создание и понимание программного кода

Open-Instruct Baize 7B — модель генерации текста на базе LLaMA с 6,6 млрд параметров, дообученная командой Allen Institute for AI на наборе Baize. Она предназначена для ответов на инструкции и вопросы в формате диалога, а также для исследовательской оценки instruction-tuning-моделей. Для работы требуется базовая модель LLaMA в формате Hugging Face: опубликованный репозиторий содержит diff весов, а не самостоятельный полный чекпойнт. Модель использует архитектуру LLaMA и контекст до 2048 токенов; карточка указывает английский язык. В опубликованных бенчмарках модель оценивалась на задачах общего понимания, математики, вопросов и ответов и генерации кода. Качество зависит от соблюдения формата ввода, включая перевод строки после маркера начала ответа. Лицензия определяется лицензией AI model из LICENSE.txt и исходной лицензией LLaMA; условия следует проверить в этих файлах перед использованием.

Open-Instruct Unnatural Instructions 13B — языковая модель семейства LLaMA с 12,9 млрд параметров, дообученная исследователями AllenAI на наборе Unnatural Instructions для генерации ответов на инструкции. Модель принимает текст и генерирует текст; она рассчитана на англоязычные запросы. Контекстное окно — 2048 токенов. Модель предназначена для следования инструкциям и исследовательской оценки instruction tuning; в карточке приведены результаты на тестах знаний, математики, рассуждений, вопросов и ответов и генерации кода. Для работы нужны исходные веса LLaMA в формате Hugging Face, поскольку опубликована разность весов. Модель распространяется по лицензии AI Model License вместе с исходной лицензией LLaMA.

Phi-2 — базовая плотная Transformer-модель Microsoft с 2,7 млрд параметров, предназначенная для генерации текста. Она предсказывает следующий токен и рассчитана прежде всего на стандартный английский. В карточке Hugging Face указаны 3,5 млрд параметров; контекст составляет 2048 токенов. Модель распространяется в формате safetensors по лицензии MIT. Phi-2 подходит для ответов на вопросы, диалоговых подсказок и генерации кода, особенно на Python. В бенчмарках на здравый смысл, понимание языка и логические рассуждения модель показала высокие результаты среди моделей менее 13 млрд параметров. Она не проходила дообучение на инструкциях или RLHF, поэтому может плохо следовать сложным указаниям и часто выдаёт лишний текст. Сгенерированные факты и код требуют проверки: модель может ошибаться, а её знания о коде в основном охватывают Python и распространённые библиотеки. Возможны общественные предубеждения и токсичные ответы. Microsoft указывает, что модель не проверена для производственных задач без предварительной оценки.

microsoft/phi-2-pytdml — вариант модели Phi-2 от Microsoft, оптимизированный для ускорения инференса на DirectML. Это плотный Transformer с авторегрессионной архитектурой PhiForCausalLM и 3,5 млрд параметров по метаданным; в README для исходной Phi-2 указано 2,7 млрд параметров. Оптимизация упрощает реализацию и добавляет слияние операторов, включая операции rotary embeddings, multi-head attention и MLP. Модель работает с контекстом до 2048 токенов и выдаёт продолжение текста. Модель предназначена для ответов на вопросы, диалоговых промптов и генерации кода, преимущественно на стандартном английском языке. Она не проходила дообучение по инструкциям или RLHF, поэтому может плохо выполнять сложные указания, генерировать недостоверные факты и код, а также лишний текст. Код и ответы следует проверять; модель может воспроизводить предвзятость или токсичные формулировки. Лицензия — MIT.

Карточка модели prompt-agnostic-language-models/Qwen-1B_coin на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B-Base, поэтому описание составлено по ней. Qwen3-0.6B-Base — базовая плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это предварительно обученная модель примерно с 508 млн параметров: 28 слоёв, группированное внимание с 16 головами Q и 8 головами KV. Она принимает текст и генерирует продолжение, служит основой для дообучения и адаптации под прикладные задачи. Модель предназначена для языкового моделирования общего назначения, включая генерацию текста, работу с кодом, STEM-темами, логическими рассуждениями и многоязычными данными. Контекстное окно составляет 32 768 токенов. В README указано, что семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; перечень языков, поддерживаемых именно этой базовой версией, отдельно не приведён. Модель распространяется под лицензией Apache-2.0. Это базовая предобученная версия, поэтому для диалогового помощника или специализированного приложения обычно потребуется дообучение либо настройка шаблона запросов; карточка не приводит конкретных гарантий качества для таких сценариев.

Модель skratos115/qwen2-7b-instruct-OpenDevin-merged_model — дообученная skratos115 при сотрудничестве с командой OpenDevin версия Qwen2-7B-Instruct. Она предназначена для работы с CodeAct и вызова инструментов, а также для генерации кода и ответов в диалоге. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2 и поддерживает контекст до 32 768 токенов. В README указано, что модель обучена на датасете opendevin-code-act с помощью Unsloth и опубликована по лицензии MIT. Репозиторий содержит объединённые веса; автор также упоминает варианты GGUF с разной точностью. Модель находится на ранней стадии разработки и, по словам автора, не предназначена для использования в production; качество работы с инструментами требует дальнейшей проверки.

Qwen3-4B-MegaR3ASONER-v1 — плотная языковая модель с 3,7 млрд параметров, созданная RexTRO111 слиянием LoRA-адаптера MegaR3ASONER с Qwen/Qwen3-4B-Thinking-2507. Это полная модель в формате Transformers и BF16, которую можно загружать без отдельного PEFT-адаптера; заявленная длина контекста — 262 144 токена. Модель предназначена для генерации текста с рассуждениями, в частности для решения математических задач, а также задач по программированию и естественным наукам. В ограниченной предварительной проверке на 100 примерах GSM8K автор сообщает 88% точного совпадения при гибком извлечении ответа и 83% при строгом; это не полный результат GSM8K и не сравнение с базовой моделью. Модель может ошибаться в промежуточных рассуждениях, чрезмерно подробно отвечать на простые запросы, а длинные цепочки рассуждений увеличивают задержку и стоимость использования. Ответы следует проверять, особенно в задачах с высокой ценой ошибки. Лицензия указана как other; при распространении или коммерческом использовании необходимо учитывать отдельные лицензии базовой модели и обучающих наборов данных.

Qwen3-4B-NURL — дообученная модель семейства Qwen3, созданная для генерации кода на языке программирования NURL. По описанию автора, она пишет идиоматический NURL с компактной префиксной нотацией, системой владения, проверяемой во время компиляции, и автоматическим освобождением ресурсов; базовая Qwen3-4B без дообучения склонна подменять синтаксис NURL синтаксисом, похожим на Rust. Модель имеет плотную архитектуру Qwen3ForCausalLM примерно на 3,7 млрд параметров, принимает текст и выдаёт текст. Контекст — до 40 960 токенов. В карточке заявлен английский язык; основное назначение — написание кода на NURL. Модель можно использовать для генерации функций и других фрагментов программ на NURL через Transformers или совместимый интерфейс nurllama. Она основана на Qwen/Qwen3-4B, использует его токенизатор и конфигурацию и распространяется по лицензии Apache-2.0. Описанные преимущества относятся к синтаксису NURL; карточка не приводит оценок качества или результатов сравнительных тестов.

onnx-community/Qwen3.5-0.8B-ONNX-OPT — ONNX-версия постобученной мультимодальной модели Qwen3.5-0.8B, разработанной командой Qwen. Это каузальная языковая модель с vision encoder, предназначенная для обработки текста и изображений, включая задачи рассуждения, программирования, визуального понимания, агентных сценариев, прототипирования, исследовательской разработки и специализированного дообучения. Артефакты совместимы с Hugging Face Transformers.js и ONNX Runtime. Модель содержит 0,8 млрд параметров, 24 слоя и скрытое измерение 1024. В архитектуре сочетаются Gated Delta Networks, Gated Attention и feed-forward блоки; заявлена гибридная архитектура с sparse Mixture-of-Experts на уровне семейства Qwen3.5. Нативная длина контекста составляет 262 144 токена. Модель поддерживает 201 язык и диалект, а также мультимодальный ввод текста и изображений. Благодаря небольшому размеру она ориентирована на более экономичный инференс и локальные эксперименты, однако уступает более крупным моделям по качеству и предназначена прежде всего для задач разработки и исследований. Модель распространяется по лицензии Apache 2.0. README не содержит подробностей о требованиях к аппаратному обеспечению, точных форматах входных изображений и ограничениях коммерческого применения, поэтому эти аспекты следует уточнять отдельно.

cwolff/qwen3.5-2b-grpo-bird — компактная модель cwolff на 2 млрд параметров, созданная дообучением Qwen/Qwen3.5-2B методом обучения с подкреплением GRPO. Она предназначена для агентного преобразования вопросов на естественном языке в SQL: модель исследует схему базы данных через инструменты, а затем отправляет запрос на исполнение. Для работы ей нужен внешний агентский цикл с протоколом exec_plan, в котором каждый ход содержит один JSON-объект; модель не рассчитана на обычный запрос «схема на вход, SQL на выход». Обучение и оценка проводились на SQLite с бюджетом в шесть ходов. В тесте разработчика на 300 вопросах BIRD dev точность исполнения составила около 0,55 как при наличии схемы в запросе, так и при её самостоятельном изучении через инструменты; эти результаты относятся к собственному тестовому стенду, а не к лидерборду. Модель заметно меньше и дешевле в обслуживании, чем крупные модели, но уступает им на сложных запросах с множественными соединениями. Контекст запуска в опубликованной инструкции ограничен 16 384 токенами; более длинные агентские эпизоды не проверены, а усечение в экспериментах достигало 9–22%. Визуальная часть базовой модели сохранена, но не обучалась и не оценивалась для этой задачи, поэтому модель следует использовать как текстовую. Лицензия — Apache-2.0.

RegesCore-1.0-35B — языковая модель на 35 млрд параметров с архитектурой mixture-of-experts, созданная Like A King Inc. на основе Ornith-1.0-35B команды DeepReinforce. Это дообучение ориентировано на системную инженерию, работу с безопасностью, реверс-инжиниринг, Lua и агентное программирование. Модель рассчитана на диалог с системным промптом, который предлагает разделять утверждения на факты, выводы и неизвестное. Репозиторий содержит веса GGUF для локального запуска через llama.cpp, LM Studio, Ollama и совместимые с OpenAI серверы. Указаны квантизации от низкобитных IQ до Q8, а также варианты BF16, F16 и F32. Предусмотрены сценарии локального развёртывания, работы с Linux и инфраструктурой, анализа логов и инцидентов, разработки средств обнаружения угроз и редактирования кода в нескольких файлах. В метаданных основной задачей указана генерация текста; README сообщает о наследуемых от базовой архитектуры возможностях зрения, но их работа для всех сборок GGUF не подтверждена. Карточка рекомендует модель для авторизованных задач безопасности и инженерной работы, с проверкой результатов человеком. Специальных бенчмарков RegesCore не опубликовано; ответы и сгенерированный код могут быть ошибочными, а низкие квантизации снижают качество. Проверен только английский язык. Лицензия модели — MIT.

Shirdel-Agent-4B — дообученная модель Tesleum на базе NVIDIA Nemotron 3 Nano 4B. Она предназначена для генерации ответов в агентных и образовательных сценариях программирования: решения математических задач с использованием Python, объяснения кода, отладки и оформления программ. Обучение проводилось на наборе Avelina/python-edu-cleaned с 7,6 млн примеров «задача — решение»; архитектура — плотная Nemotron H, формат весов — safetensors. Модель поддерживает текстовый ввод и генерацию текста, включая код. Метаданные указывают контекстное окно до 262 144 токенов и английский язык. Карточка отмечает улучшенную работу на запросах, похожих на обучающие данные, и не сообщает о квантизации. Лицензия — ECL-2.0.

kenpeter123/small-1b-sft — языковая модель семейства Llama, разработанная автором репозитория и полученная supervised fine-tuning модели kenpeter123/small-1b-pretrain. Она предназначена для генерации текста по запросу и инструкциям, включая задачи с кодом. В метаданных указано около 956 млн параметров, контекст до 8192 токенов и библиотека Transformers; README описывает Transformer++-чекпойнт примерно с 1,03 млрд параметров, 32 слоями, групповым вниманием GQA и SwiGLU. Веса представлены в формате safetensors, также README сообщает о наличии сырого обучающего чекпойнта. Для дообучения использовались смешанные наборы инструкций, включая примеры кода; README упоминает 513 проверенных и 2500 сгенерированных примеров. Это указывает на ориентацию на инструкционную генерацию и код, но карточка не приводит результатов оценки качества или подробных рекомендаций по применению. Модель поддерживает английский язык согласно метаданным. Лицензия — Apache-2.0.

Soar-qwen-72b-i1-GGUF — квантизированная версия модели Soar-qwen-72b, разработанной julien31 и подготовленной в формате GGUF пользователем mradermacher. Модель основана на Qwen с заявленным размером 72B параметров и обучалась на датасете julien31/soar_arc_train_5M. В карточке указана поддержка английского языка. Модель предназначена для генерации текста и кода, синтеза программ, а также задач, связанных с эволюционными алгоритмами и ARC-AGI. Доступны варианты квантизации IQ и Q с размером файлов примерно от 22,8 до 64,4 ГБ. В README отмечается, что i1-Q4_K_M является быстрым и рекомендуемым вариантом, а i1-Q4_K_S предлагает сбалансированное соотношение размера, скорости и качества. Основные ограничения связаны с квантизацией: варианты различаются по качеству, а некоторые версии характеризуются как низкокачественные или предназначенные для случаев с жёсткими ограничениями по ресурсам. Сведения о длине контекста, мультимодальности, точной архитектуре и результатах бенчмарков в README не приведены. Указана лицензия Apache 2.0.

Это модель Sentence Transformer, разработанная buelfhood и дообученная на наборе soco_train_java от huggingface/CodeBERTa-small-v1. Она преобразует текстовые фрагменты в плотные векторы размерностью 768 для сравнения семантической близости. Архитектура основана на RoBERTa: представления токенов объединяются усреднением, а близость обычно оценивается косинусным сходством. Модель предназначена для поиска и сопоставления фрагментов, связанных с Java-кодом: семантического поиска, поиска похожих предложений и абзацев, выявления перефразировок, кластеризации и классификации на основе эмбеддингов. Она принимает текст длиной до 512 токенов и выдаёт векторное представление. Базовая CodeBERTa обучалась для работы с исходным кодом на нескольких языках программирования, а это дообучение использует датасет Java; карточка не заявляет поддержку конкретных естественных языков. В репозитории указана лицензия и условия её использования, однако доступные сведения не приводят её название; перед применением следует проверить лицензию модели и базовой модели на Hugging Face. Модель подходит для задач поиска и сравнения, но её качество вне Java-кода и обучающего распределения не установлено.

Terminal-dependency_management — дообученная модель на базе Qwen/Qwen3-8B, созданная автором репозитория cuong1692001. Модель предназначена для генерации текста в диалоговом формате и, судя по названиям обучающих наборов, задач управления зависимостями в терминале. Модель содержит 7,6 млрд параметров, использует архитектуру Qwen3ForCausalLM и формат safetensors. Поддерживает контекст до 40 960 токенов. Базовая Qwen3-8B — многоязычная модель; конкретные языки и сильные стороны этого дообучения в карточке не описаны. В метаданных указана лицензия other; конкретные условия использования в предоставленной карточке не раскрыты. README не приводит результаты оценки или подробные ограничения модели.

Trinity-2-Codestral-22B-GGUF — это набор GGUF-квантизаций базовой текстогенеративной модели Trinity-2-Codestral-22B, разработанной migtissera и квантизированной bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и, судя по названию Codestral, ориентирована прежде всего на задачи, связанные с программным кодом, однако подробные сведения о специализации, обучении и результатах тестирования в README отсутствуют. Доступны варианты от полного F32 размером 88,99 ГБ до низкобитных IQ2_M размером 7,62 ГБ. Наиболее качественными и рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S и Q4_K; некоторые версии используют Q8_0 для embedding- и output-весов. Модель работает в формате GGUF через llama.cpp и может запускаться, в частности, в LM Studio. Указан шаблон prompt с ролями system, user и assistant. Данные о поддерживаемых языках, размере контекста, архитектуре, модальностях и конкретных сильных сторонах не приведены. Лицензия обозначена как other, без дополнительных условий в README.

laion/tt-x0_verifier-shaped-20-30B — экспериментальная версия модели TaskTrove X0, созданная LAION на основе Qwen/Qwen3-Coder-30B-A3B-Instruct. Модель прошла 20 шагов агентного обучения с подкреплением terminus-2 на задачах работы с несколькими файлами и проверки решений через pytest; при обучении применялось формирование награды pass_ratio, которое учитывает частичный прогресс. Это разговорная MoE-модель для генерации текста и решения задач программирования в агентных сценариях. Базовая модель поддерживает контекст до 262 144 токенов. В README приводится результат pass@k 0,347 при повторной оценке без shaping против 0,310 у бинарного варианта; эти цифры относятся к конкретному эксперименту. Карточка описывает абляцию с горизонтом в 20 шагов, поэтому модель следует считать экспериментальным чекпойнтом, а не зрелым универсальным решением. Дерево обучающих трасс недоступно. Лицензия в предоставленных данных не указана.

laion/tt-x16-entropy0p003-42-30B — экспериментальный чекпойнт шагa 42, созданный в ходе исследования TaskTrove X16. Это дообучение инструктивной MoE-модели Qwen3-Coder-30B-A3B-Instruct методом GRPO с бонусом энтропии 0,003; модель предназначена для генерации текста и диалогового взаимодействия, в том числе для программирования и агентных сценариев. Использует архитектуру Qwen3 MoE, содержит 2,6 млрд параметров и поддерживает контекст до 262 144 токенов. Чекпойнт выбран как лучший по скользящей EMA награды среди сохранённых шагов этого запуска. Эксперимент остановили на шаге 92 из 400 после снижения награды и энтропии; README характеризует результат как отрицательный контроль: бонус энтропии не удержал исследование на данном расписании обучения. Модель опубликована в формате safetensors под лицензией Apache-2.0.

VibeThinker-1.5B-f32-GGUF — компактная плотная языковая модель с 1,5 млрд параметров, разработанная WeiboAI и представленная в формате GGUF со сборкой F32. Она создана на основе Qwen2.5-Math-1.5B и дообучена специально для соревновательной математики и алгоритмического программирования. Указанный вариант предназначен для генерации текста; заявлен английский язык. Модель использует подход Spectrum-to-Signal Principle: сначала увеличивает разнообразие решений при supervised fine-tuning, затем закрепляет корректные пути рассуждений с помощью reinforcement learning. Модель ориентирована на решение сложных математических задач, генерацию и анализ кода, а также сценарии, требующие длинных рассуждений — с длиной вывода примерно до 40 000 токенов. Для версии F32 размер файла составляет около 7,11 ГБ. Среди заявленных результатов — 80,3 на AIME24, 74,4 на AIME25, 50,4 на HMMT25 и 55,9/51,1 на LiveCodeBench v5/v6; в README утверждается, что модель превосходит значительно более крупные системы на отдельных математических тестах и сопоставима с ними в программировании. Сильные стороны модели — небольшое число параметров, открытость, специализация на математике и коде и поддержка длинных ответов. Ограничения связаны с узкой специализацией: README не подтверждает универсальную эффективность, мультимодальность или поддержку языков, кроме английского; также не указаны точное максимальное окно контекста, системные требования и подробности инференса. Рекомендуются умеренные температуры сэмплирования. Модель распространяется по лицензии MIT.

Vinci-MLE-30B-1.0 — открытая модель SimpleDirect, разработанная в Канаде для задач машинного обучения и инженерии данных. Это дообученная на базе IBM Granite 4.1 30B плотная авторегрессионная языковая модель с 28,9 млрд параметров; она принимает текстовые задачи и сведения о рабочем пространстве, анализирует доступные свидетельства и формирует структурированный отчёт с обоснованным действием, отказом от изменений или остановкой. Заявленный контекст — 131 072 токена, однако в описанной оценке использовался предел 16 384 токена. Модель предназначена для ассистентов, которые помогают диагностировать проблемы в ML-проектах и предлагать ограниченные изменения файлов рабочего пространства. Веса и токенизатор сами по себе не образуют готового агентного контура: приложение должно предоставить и проверять инструменты, ограничивать взаимодействия и независимо тестировать предлагаемые изменения. Специализированная оценка по задачам ML-инженерии не проводилась; обучение охватывало один проход по 91 траектории, поэтому качество на широком наборе фреймворков и сценариев не установлено. Модель выпущена под лицензией Apache-2.0.

Web-chunk-refining-lm — языковая модель, разработанная на основе gair-prox/RedPJ-ProX-0.3B и дообученная для уточнения фрагментов веб-страниц посредством генерации программ. Она предназначена для сценариев, где нужно улучшать или преобразовывать веб-фрагменты, формируя для этого программный код. Модель имеет плотную архитектуру семейства Llama с причинно-следственной языковой моделью LlamaForCausalLM и содержит 313,3 млн параметров. Она принимает текст и генерирует текст, включая код; контекст — до 2048 токенов. Карточка указывает датасет gair-prox/RedPajama-pro и английский язык. Модель распространяется по лицензии Apache-2.0.

ZR1-1.5B — компактная языковая модель Zyphra на архитектуре Qwen2 с 1,5 млрд параметров, дообученная на DeepSeek-R1-Distill-Qwen-1.5B с помощью обучения с подкреплением PRIME и процессных наград. Она предназначена для генерации ответов с рассуждениями, особенно при решении задач по математике и программированию; в обучающую выборку вошли проверенные математические задачи и примеры кода из нескольких наборов данных. Модель поддерживает контекст до 131 072 токенов и рассчитана на англоязычные запросы. В README приведены результаты оценок по математике и программированию, включая pass@1 на задачах GPQA-Diamond, LeetCode и других тестах. Эти показатели получены на конкретных бенчмарках и режимах генерации и не гарантируют аналогичного качества на произвольных задачах. Модель распространяется в формате Safetensors под лицензией MIT.

Модель ahmedheakl/asm2asm-deepseek1.3b-xtokenizer-armv8 — дообученная версия DeepSeek Coder 1.3B Instruct на неизвестном наборе данных. Она использует плотную архитектуру семейства Llama с 1,3 млрд параметров и предназначена для генерации текста в формате диалога; базовая модель специализируется на генерации, дополнении и заполнении пропусков в программном коде. Контекст модели составляет 16 384 токена. README не описывает целевую задачу, обучающие данные или результаты оценки, поэтому специализированные возможности преобразования ассемблерного кода по одному названию репозитория подтвердить нельзя. Репозиторий содержит веса Safetensors для Transformers; лицензия указана как other, без конкретных условий в предоставленных данных.

Atem-Wisdom-1.5B-i1-GGUF — набор квантизированных GGUF-файлов базовой модели EphAsad/Atem-Wisdom-1.5B, подготовленный и опубликованный mradermacher. Модель относится к семейству Qwen2 и предназначена для генерации текста с акцентом на рассуждения, включая математические, программные и другие задачи, требующие пошагового анализа. В обучении использовались наборы данных OpenThoughts-114k-math, Kimi-K2.5-Reasoning-1M-Cleaned, CodeX-2M-Thinking, medical-o1-reasoning-SFT, MiniMax_M2.7_Distilled_5k и OpenCodeReasoning, а также применялись LoRA и дистилляция. Указанный язык — английский. Это компактная текстовая модель с размером 1,5 млрд параметров, поставляемая в различных вариантах квантизации для llama.cpp и совместимых инструментов. Доступны варианты от IQ1 и Q2 до Q6, размер файлов составляет примерно от 0,5 до 1,4 ГБ. В README рекомендуется i1-Q4_K_M как быстрый вариант, а i1-Q4_K_S отмечен как оптимальный баланс размера, скорости и качества; низкобитные варианты экономят память, но могут заметно уступать по качеству. Мультимодальность и размер контекстного окна не указаны. Модель лицензирована по Apache-2.0. Описанные файлы являются квантизированными версиями, поэтому фактическое качество зависит от выбранного варианта; некоторые варианты прямо обозначены как имеющие низкое качество. Данные о результатах бенчмарков, безопасности и ограничениях применения в README отсутствуют.

Banaxi-Tech BananaMind 2.1 MiniCoder — компактная языковая модель для генерации кода с 14,1 млн параметров по метаданным Hugging Face. В README указано 24 949 999 параметров, включая трансформер и отдельную память биграмм и четырёхграмм; число параметров в источниках расходится. Архитектура использует 13 физических слоёв с повторным проходом по слоям L5–L9, а контекст составляет 4096 токенов. Модель обучалась на смеси The Stack v3 и FineWeb-Edu: код составляет 75% обучающих данных, общий текст — 25%. Она предназначена для генерации кода и может быть полезна для экспериментов с компактными кодовыми моделями. В карточке заявлена лицензия Apache-2.0. Метаданные указывают английский язык; README также описывает обучающие данные с обнаружением языка кода, но не перечисляет конкретные языки программирования.

AmberYifan/capsd-marin-8b-base-code_ifd_b14000_s0 — дообученная модель семейства Llama, созданная на основе marin-community/marin-8b-base. Она содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и предназначена для генерации текста; в метаданных также отмечена возможность диалогового взаимодействия. Модель обучалась на наборе capsd_marin-8b-base-n80000-opc__mix_code_ifd_b14000_s0, название которого указывает на примесь кода в данных, но карточка не описывает конкретные возможности модели. Модель принимает текст и генерирует текст. Длина контекста составляет 4096 токенов. Базовая Marin 8B Base описана как англоязычная, однако сведения README не подтверждают отдельно языки или качество этой версии. Лицензия указана как other; конкретные условия использования в карточке не приведены.

AmberYifan/capsd-marin-8b-base-code_kcenter_b14000_s0 — дообученная разработчиком AmberYifan модель семейства Llama для генерации текста. Она создана на основе marin-community/marin-8b-base и обучена на наборе данных capsd_marin-8b-base-n80000-opc__mix_code_kcenter_b14000_s0, название которого указывает на смесь данных, связанных с кодом. В репозитории используется архитектура LlamaForCausalLM и формат Safetensors; модель содержит 7,5 млрд параметров и рассчитана на контекст до 4096 токенов. Модель подходит для генерации и продолжения текста, в том числе для экспериментов с кодом. Поддержка чата отмечена среди возможностей каталога, однако README не описывает поведение модели, результаты оценки или конкретные сценарии применения. Лицензия указана как other, поэтому условия использования следует уточнить в репозитории модели и её базовой модели.

AmberYifan/capsd-opc-dedup-marin-8b-base-code_random_b40000_s0 — дообученная модель генерации текста на архитектуре Llama, созданная на основе marin-community/marin-8b-base. Для обучения использовался набор capsd_marin-8b-base-n80000-opc-dedup80k__mix_code_random_b40000_s0; название набора указывает на примеры кода, однако README не описывает конкретные навыки модели или результаты оценки. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 4096 токенов. Метаданные отмечают возможность чата, но сведений о поддерживаемых естественных языках нет. Репозиторий использует safetensors и библиотеку Transformers. Лицензия указана как other, поэтому условия использования следует уточнить в карточке модели и у правообладателя.

Chinese-CodeLlama-7B-SFT-V1 — плотная авторегрессионная языковая модель семейства Llama, дообученная методом supervised fine-tuning (SFT) разработчиками репозитория на базе Chinese-CodeLlama-7B-PT. Веса содержат около 6,8 млрд параметров, модель опубликована в формате PyTorch и рассчитана на контекст до 4096 токенов. Модель предназначена для генерации кода и ответов на инструкции по задачам программирования на китайском языке. Для дообучения использован набор CodeLlama-2-20k, переведённый на китайский язык с помощью Google Translate; авторы также разработали китайский шаблон промпта для кодирования. Лицензия — Apache-2.0. Качество результатов зависит от формулировки запроса и может быть ограничено ошибками или артефактами машинного перевода обучающих данных; сведения о конкретных языках программирования и оценках качества в карточке отсутствуют.