II.3Рефакторинг, миграция и модернизация

Fireball-Meta-Llama-3.1-8B-Instruct-Agent-0.005-128K-code-COT — дообученная EpistemeAI языковая модель на архитектуре Llama 3.1 с 7,5 млрд параметров. Она предназначена для генерации текста и кода, выполнения агентных задач и пошагового рассуждения. В карточке заявлены встроенные сценарии поиска, калькулятора и ReAct, а также применение в RAG-системах и интеграция с LangChain и LlamaIndex. Модель принимает текст и генерирует текст; заявленное контекстное окно составляет 131 072 токена. Карточка указывает на обучение на наборе данных с кодом и Glaive's CoT Tasks; язык карточки — английский. Модель может подойти для прототипирования кодирующих агентов, которые разбивают задачи на действия, используют поиск или калькулятор, а также для диалоговых приложений с длинным контекстом. Указана лицензия Apache-2.0. Модель обозначена как экспериментальная, а функция самообучения — как находящаяся в разработке; фактическое качество и безопасность выполнения кода требуют проверки в целевом приложении.

GetCode-slerp — объединённая языковая модель для генерации кода, созданная с помощью LazyMergekit на основе CodeLlama-7b-Instruct-hf и CodeGen2.5-7B-Multi. Она предназначена для генерации и дополнения кода по текстовым запросам; архитектура — плотная LlamaForCausalLM, размер — 6,6 млрд параметров, контекст — до 16 384 токенов. Модель принимает текст и выдаёт текст. В README указано слияние методом slerp с настройками, различающимися для слоёв self-attention и MLP. Репозиторий содержит веса safetensors, а лицензия — Apache-2.0. Базовая CodeLlama рассчитана на генерацию, дополнение и объяснение кода; для этой конкретной объединённой модели README прямо подтверждает происхождение, но не приводит отдельных результатов оценки качества.

MuXodious выпустил дообученную и подвергнутую абляции отказов версию GLM-4.7-Flash-REAP-23B-A3B. Это разреженная причинная языковая модель MoE семейства GLM4-MoE-Lite: в карточке указаны 4,1 млрд параметров, а README описывает исходную конфигурацию REAP как 23 млрд параметров всего и около 3 млрд активируемых на токен. Модель принимает текст и генерирует текст; контекст составляет до 202 752 токенов. Карточка заявляет поддержку английского языка. Модель предназначена для диалогов, генерации кода и агентных сценариев, включая вызов инструментов. README сообщает, что к базовой модели применили pruning экспертов методом REAP и Heretic-abliteration; показатель отказов в описанном тесте снизился с 92/100 до 4/100. Эти результаты не подтверждают качество на широком наборе задач, а сам README отмечает условность классификации «Absolute Heresy». Для работы через Transformers требуется версия 5.0.0 или выше. Лицензия — MIT.

Jan-code-4b-GGUF — это квантизированная версия языковой модели Jan-code-4b, разработанной janhq. Репозиторий подготовлен bartowski с использованием llama.cpp и метода imatrix; модель предназначена для генерации текста и ориентирована на сценарии работы с кодом и агентами. Модель доступна в формате GGUF с вариантами квантизации от BF16 и Q8_0 до более компактных Q2–Q6 и IQ-вариантов. Размер файлов составляет примерно от 1,98 до 8,83 ГБ. В README указана поддержка английского языка. Архитектура, максимальная длина контекста, точное число параметров и поддерживаемые модальности не описаны; по назначению и формату это текстовая авторегрессионная модель. Сильной стороной является широкий выбор уровней квантизации, позволяющий подобрать баланс между качеством, требованиями к памяти и скоростью работы. В качестве рекомендуемых указаны Q4_K_M, Q5_K_M, Q6_K и близкие варианты. Модель можно запускать через llama.cpp, LM Studio, koboldcpp, Jan AI и другие совместимые инструменты, однако для новых поддерживаемых архитектур может потребоваться обновление программного обеспечения. Лицензия — Apache-2.0.

Llama-3.1-Nemotron-Ultra-253B-CPT-v1 — базовая языковая модель NVIDIA, производная от Meta Llama-3.1-405B-Instruct и предназначенная для дальнейшей адаптации под конкретные приложения и предметные области. Это плотный декодерный Transformer с нестандартными блоками, выбранными методом Neural Architecture Search: в части блоков пропущено или заменено внимание, а слои FFN имеют разные пропорции и могут объединяться. Модель прошла дистилляцию и продолжительное предобучение; в README указано 253 млрд параметров, тогда как метаданные Hugging Face указывают 697,9 млрд. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и рассчитана прежде всего на английский язык и задачи с кодом. NAS-архитектура уменьшает требования к памяти и повышает пропускную способность и задержку относительно родительской модели; README сообщает, что для инференса модель помещается на одном узле с 8 H100. Она сохраняет часть возможностей следования инструкциям родительской модели, но заявлена прежде всего как основа для дообучения, а не как специализированный чат- или reasoning-чекпойнт. NVIDIA заявляет готовность к коммерческому использованию. В метаданных лицензия обозначена как other; перед применением следует проверить условия лицензии и использования NVIDIA. Крупный размер модели требует мощной вычислительной инфраструктуры; возможности на русском языке в карточке не заявлены.

Magicdeep_7b_ultimite_chatbot — объединённая модель генерации кода, созданная с помощью mergekit на основе DeepSeek Coder 6.7B Instruct и Magicoder-DS-6.7B. Она использует плотную архитектуру LlamaForCausalLM и содержит около 6,6 млрд параметров. Модель предназначена для диалоговой генерации и дополнения программного кода, а также для ответов на вопросы и объяснения кода. Контекст составляет 16 384 токена. Веса представлены в формате safetensors; модель распространяется по лицензии Apache-2.0. Карточка не сообщает результаты оценки качества или конкретный перечень поддерживаемых языков программирования. Практическое качество может зависеть от задачи и формулировки запроса.

OsaurusAI выпустила MiniMax-M2.7-Small-JANGTQ — разреженную языковую модель MoE для генерации текста и диалогов, подготовленную на основе MiniMaxAI/MiniMax-M2. В README указаны около 138 млрд параметров всего и около 10 млрд активных на токен; на каждом слое сохранено 154 из 256 маршрутизируемых экспертов, а для токена выбираются 8. Модель рассчитана на запуск на компьютерах Apple Silicon через MLX и нативную среду JANGTQ для Swift. При подготовке удалено 40% маршрутизируемых экспертов методом REAP, а веса квантованы: эксперты — до 2 бит с кодовыми книгами Lloyd-Max и преобразованием Hadamard, блоки внимания, плотные MLP, эмбеддинги и выходная голова — до 8 бит, нормализации и маршрутизатор — до 16 бит. В карточке заявлен контекст 196 608 токенов; языковые метки — английский и китайский. Приведённая оценка HumanEval+ показывает 81,10% pass@1 и 90,24% pass@5, но README также сообщает о сбоях границ токенов и нехватке бюджета генерации в части примеров. Для загрузки полного набора весов требуется файл jangtq_runtime.safetensors: без него Swift-загрузчик не декодирует упакованные веса. Лицензия указана как other, поэтому условия использования следует проверять в репозитории модели.

NightOwl-CodeEmbedding — компактная модель плотных эмбеддингов для поиска по программному коду, сопоставления изменений кода и поиска технических ответов. Модель разработана на основе Shuu12121/NightOwl и дообучена на данных для поиска кода с трудными отрицательными примерами. Использует архитектуру ModernBERT, CLS-пулинг и выдаёт один вектор размерности 768 на входной фрагмент; совместима с sentence-transformers и поиском по косинусному сходству или скалярному произведению. Размер — около 150,7 млн параметров, в репозитории есть форматы safetensors и ONNX. Модель предназначена для семантического поиска по коду и техническим материалам: поиска кода по текстовому запросу, поиска похожих функций, сопоставления намерения с изменением кода и построения RAG-систем по кодовым базам и документации. Поддерживаются Go, Java, JavaScript, PHP, Python, Ruby, Rust и TypeScript; для других языков программирования качество не проверено. Несмотря на указанное в метаданных окно контекста 8192 токена, README сообщает, что входы длиннее 1024 токенов обрезаются, поэтому большие файлы следует делить на фрагменты. Модель специализирована на задачах поиска кода и может уступать универсальным эмбеддинг-моделям на обычном тексте; заявленные результаты бенчмарков в основном относятся к знакомым обучению областям. Лицензия — Apache-2.0.

OpenCodeInterpreter-DS-33B — модель генерации кода из семейства OpenCodeInterpreter, разработанного для объединения генерации программ с их выполнением и последующей доработкой по обратной связи. Модель основана на deepseek-coder-33b-base и использует плотную архитектуру LlamaForCausalLM с 33,1 млрд параметров. Она принимает текстовые запросы и генерирует текст, в том числе программный код; семейство рассчитано на итеративное улучшение решений с учетом результатов выполнения кода. Модель подходит для написания кода по описанию задачи, создания программных решений и интерпретации кода. Контекст составляет 16 384 токена. В карточке указана поддержка английского языка и лицензия Apache-2.0. Описание семейства говорит о пользе обратной связи от выполнения кода, но не подтверждает, что этот репозиторий сам содержит среду исполнения или автоматически выполняет код.

OpenCodeInterpreter-DS-6.7B-GGUF — это набор файлов модели в формате GGUF, подготовленный MaziyarPanahi для оригинальной модели m-a-p/OpenCodeInterpreter-DS-6.7B, разработанной организацией m-a-p. Модель относится к классу генеративных текстовых моделей и предназначена прежде всего для работы с программным кодом и задач генерации текста. Модель имеет размер 6,7 млрд параметров и поддерживает несколько вариантов квантования с разрядностью от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K. Формат GGUF ориентирован на локальный запуск через llama.cpp и совместимые инструменты, включая text-generation-webui, LM Studio, GPT4All и llama-cpp-python, в том числе с GPU-ускорением. В README явно указан английский язык; другие языки, длина контекста, архитектурные детали и результаты оценки не описаны. К сильным сторонам относятся возможность выбора компромисса между качеством и потреблением памяти, а также широкая совместимость с локальными средствами инференса. Ограничения связаны с потерями качества, возможными при низкобитном квантовании, и отсутствием в README подробных данных о производительности, поддерживаемых языках программирования и точных сценариях применения. Указанная лицензия — Apache-2.0.

OpenGCM-v2 — модель с 9 млрд параметров от NitrAI, дообученная на базе Qwen/Qwen3.5-9B для рассуждений, программирования и агентных сценариев. В карточке заявлено окно контекста базовой модели до 262 тыс. токенов; модель представлена в формате safetensors, поддерживает чат и интерфейс вызова инструментов. Для обучения использовался DoRA, а данные включали 597 примеров с трассами работы кодовых агентов, математическими рассуждениями и системным анализом, дистиллированными из ответов нескольких крупных моделей. Модель предназначена для пошагового решения математических задач, анализа кода и проверки исправлений, а также выполнения многошаговых инструкций и агентных задач с инструментами. В README приведены результаты на небольших наборах задач, поэтому они не дают надёжной оценки обобщающего качества. Автор отмечает возможный сдвиг контекста и нестабильность при очень длинной генерации; рекомендуются низкая температура и структурированные системные подсказки. Модель помечена как устаревшая, автор рекомендует перейти на Polaris. Лицензия — Apache-2.0.

Ornith-1.0-397B-FP8 — открытая языковая модель семейства Ornith-1.0, предназначенная прежде всего для агентного программирования. Проект разработан командой Ornith; в материалах также упоминается Deep Reinforce. Модель доступна для генерации текста и ориентирована на сценарии, в которых агент самостоятельно планирует действия, работает с терминалом и решает задачи разработки программного обеспечения. Модель относится к варианту на 397 млрд параметров с архитектурой MoE и представлена в формате FP8. Семейство Ornith обучалось поверх Gemma 4 и Qwen 3.5 с применением reinforcement learning: оптимизируются не только итоговые решения, но и scaffolding — структура поиска и последовательность действий, приводящих к решению. Для Ornith-1.0-397B заявлена эффективная работа в конфигурации с одним GPU. Сведения о размере контекстного окна, поддерживаемых языках и мультимодальности в карточке не указаны. Сильная сторона модели — специализация на агентных задачах программирования; в README приведены результаты на Terminal-Bench 2.1 и SWE-bench Verified, включая показатели 77,5–78,2 и 82,4 соответственно. Эти результаты характеризуют заявленные авторами тестовые условия и не гарантируют аналогичную эффективность в других сценариях. Модель распространяется по лицензии MIT, без региональных ограничений, однако требования к аппаратным ресурсам и практическая совместимость с конкретными средствами запуска требуют отдельной проверки.

Qodo-Embed-1-1.5B — модель эмбеддингов кода от Qodo, дообученная на базе Alibaba-NLP/gte-Qwen2-1.5B-instruct. Она предназначена для поиска по коду и сопоставления естественно-языковых запросов с фрагментами кода, а также для поиска похожих фрагментов кода. Такие эмбеддинги можно использовать в поисковых системах и RAG-сценариях для разработки ПО. Архитектура — плотная Qwen2, размер — 1,5 млрд параметров; модель выдаёт векторы размерности 1536. По данным метаданных, нативный контекст составляет 131 072 токена; README указывает максимум входа 32 тыс. токенов. README сообщает о поддержке Python, C++, C#, Go, Java, JavaScript, PHP, Ruby и TypeScript. Метаданные указывают библиотеку Sentence Transformers и формат safetensors. Разработчики заявляют о высоких результатах на COIR и MTEB, однако это заявление карточки модели и не гарантирует качества на конкретном наборе данных. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией репозитория.

Qwen2.5-Coder-0.5B-Instruct-GGUF — инструкционная языковая модель для работы с исходным кодом из семейства Qwen2.5-Coder, разработанного командой Qwen. Она предназначена для генерации, анализа и исправления кода, задач кодового рассуждения, чат-сценариев и создания приложений на базе кодовых агентов. Модель сохраняет возможности для математических и общих языковых задач. Указанный репозиторий содержит версию в формате GGUF, ориентированную на локальный запуск, в том числе через llama.cpp. Модель является авторегрессионной causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm, смещениями в QKV внимания и связанными эмбеддингами слов. Она содержит около 0,49 млрд параметров, из которых 0,36 млрд — без учёта эмбеддингов, 24 слоя и GQA с 14 головами для Q и 2 для KV. Полная длина контекста составляет 32 768 токенов. Поддерживаются варианты квантизации q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. В карточке явно указан английский язык; другие языки не заявлены. К сильным сторонам относятся небольшой размер, возможность локального запуска и специализация на программном коде. Ограничениями являются существенно меньшая мощность по сравнению с крупными моделями семейства и отсутствие подтверждённых в карточке характеристик мультимодальности или поддержки дополнительных языков. Для расширения контекста до 131 072 токенов рекомендуется использовать не GGUF-версии, поскольку для GGUF заявлена длина до 32 768 токенов, а поддержку YARN для экстраполяции указывает только vLLM. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-3B-Instruct-MLX-8bit — 8-битная MLX-квантизация инструкционно дообученной модели Qwen2.5-Coder-3B-Instruct. Исходную модель разработала команда Qwen, а данную квантизированную версию подготовил bartowski на основе инструментов mlx-examples; модель распространяется в каталоге lmstudio-community. Модель предназначена для генерации и обработки программного кода, использования в чат-сценариях и code agent системах. Она поддерживает контекст до 32 тысяч токенов и рассчитана на запуск на компьютерах Mac с Apple Silicon. В обучении использовалось до 5,5 триллиона токенов, включая исходный код, текстово-кодовые связи и синтетические данные. В README явно указан английский язык; сведения о поддержке других языков и точной архитектуре не приведены. К сильным сторонам относятся специализация на задачах программирования, ориентация на агентные сценарии, большой контекст и возможность локального запуска на совместимых устройствах. Ограничения включают небольшой по современным меркам размер в 3 миллиарда параметров, зависимость от Apple Silicon и риски неточных, небезопасных или неподходящих ответов, характерные для генеративных моделей. Лицензия указана как qwen-research; подробные условия доступны по ссылке на лицензию исходной модели Qwen2.5-Coder-3B-Instruct.

DJLougen/Qwen3.5-9B-Harmonic-GGUF — набор GGUF-квантизаций модели Qwen3.5-9B-Harmonic, разработанной DJLougen на базе unsloth/Qwen3.5-9B. Модель дообучена с использованием Unsloth и Hugging Face TRL примерно на 800 синтетических примерах с ответами Claude; доступные файлы созданы с помощью llama.cpp, включая варианты с importance matrix на основе WikiText-2. Лицензия — Apache 2.0. Модель предназначена прежде всего для генерации кода, рассуждений и использования в агентных сценариях, например в Hermes Agent, а также для локального запуска через совместимые инструменты вроде LM Studio и Ollama. Заявлена поддержка английского языка, текстовой генерации и мультимодального ввода изображений и видео благодаря vision encoder Qwen3.5. Контекстное окно составляет 262 144 токена, размер модели — около 9 млрд параметров. Архитектура гибридная: 32 слоя, сочетающие линейное внимание с компонентами Mamba SSM и полное внимание; используется GQA. По приведённым оценкам модель показывает pass@1 87,2% на HumanEval, 81,7% на HumanEval+ и accuracy 80,36% на MMLU-Pro, с особенно высокими результатами в математике, биологии, химии и физике. Конкретное качество зависит от выбранного уровня квантизации; представлены варианты от F16 до более компактных форматов. Важное ограничение — автор предупреждает, что модель оптимизирована для работы внутри структурированного агентного harness и может вести себя непредсказуемо при обычном запуске без подходящего системного промпта; надёжность разговорного поведения вне такого окружения не гарантируется.

hellohazime/Qwen3.8-2.4T-A95B-REAP-512GB-GGUF — GGUF-сборка модели Qwen3.8-2.4T-A95B, основанная на unsloth/Qwen3.8-2.4T-A95B-GGUF и подготовленная автором hellohazime. Это MoE-модель с 512 экспертами в каждом слое, из которых сохранены 304, выбранные по частоте маршрутизации на англоязычном веб-корпусе и коде. Ширина модели не изменялась, а исходная квантизация UD-IQ2_XXS сохранена без повторной квантизации. Размер файла составляет около 404 ГБ (376 GiB), что позволяет полностью разместить модель в памяти Mac с 512 ГБ и использовать её через стандартный llama.cpp. Модель предназначена прежде всего для генерации текста, работы с английским языком и программным кодом, включая агентские сценарии с использованием инструментов и длительные задачи разработки. Заявлено окно контекста 262 144 токена; в проверках использовался контекст до 131 072 токенов. По сравнению с исходной некроппированной квантизированной моделью сборка сохранила 89,7% маршрутизаций экспертов, показала совпадение наиболее вероятного токена 87,6% на английском тексте и 90,0% на коде, а также продемонстрировала загрузку и генерацию в stock llama.cpp. Сильными сторонами являются высокая точность относительно исходной Q2-квантизации, отсутствие необходимости в специальном runtime и пригодность для локального запуска на системе с 512 ГБ памяти. Ограничения связаны с экспертным pruning: отбор калибровался на английском веб-контенте и коде, поэтому неанглоязычные языки и задачи за пределами этих доменов могут пострадать. Производительность и качество за пределами проверенных режимов, включая более длинные контексты и иные распределения данных, не подтверждены. Лицензия указана как other, license_name — qwen3.8-max; ссылка ведёт на лицензию Qwen3.8-2.4T-A95B.

Qwen3-Coder-30B-A3B-Instruct-GGUF — квантованная GGUF-версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen и подготовленной Second State Inc. Модель предназначена для генерации текста и работы с задачами программирования в формате инструкций; конкретные поддерживаемые языки программирования и естественные языки в README не указаны. Модель рассчитана на использование с LlamaEdge и совместима с шаблоном запросов chatml. Указан контекст размером до 256 000 токенов. Доступны варианты квантования GGUF от Q2_K до Q8_0, а также f16; рекомендуемыми названы Q4_K_M, Q5_K_M и Q5_K_S, обеспечивающие различный баланс между размером файла и потерей качества. Описанная конфигурация использует Q5_K_M размером около 5,85 ГБ. Архитектура, точное число активируемых параметров, поддержка мультимодальности и фактические характеристики качества в README не раскрыты. Ограничения связаны с потерями качества при низкобитном квантовании и необходимостью совместимого окружения для запуска. Модель распространяется по лицензии Apache-2.0. Для запуска через LlamaEdge требуется соответствующая версия LlamaEdge и GGUF-файл модели; в README указано, что поддержка LlamaEdge находится в стадии подготовки.

DavidAU/Qwen3-Jan-Nano-128k-6B-Brainstorm20x — инструкцияционная языковая модель для генерации текста, кода и диалогов. В основе лежит Menlo/Jan-nano-128k; автор сообщает о применении адаптера Brainstorm 20x, настроенного на улучшение генерации кода и решения задач. В метаданных архитектура указана как плотная Qwen3ForCausalLM, размер — 5,4 млрд параметров, формат весов — safetensors. Модель принимает текст и поддерживает контекст до 131 072 токенов. Карточка описывает её применение для программирования, многошаговых задач, творческого письма и мозгового штурма. Автор отмечает более подробную и нюансированную прозу, а также более строгое следование инструкциям; эти наблюдения представлены как субъективные результаты тестирования. Указанная лицензия — Apache-2.0. Для запуска README рекомендует шаблон Jinja или ChatML и приводит настройки сэмплирования; для сложных многошаговых задач автор советует варианты квантования Q6 или Q8. Карточка не приводит независимых бенчмарков, поэтому заявления об улучшениях не следует считать подтверждённой оценкой качества.

Qwopus3.5-4B-Coder-MTP-GGUF — компактная кодовая и агентная модель, разработанная Jackrong на базе Qwen/Qwen3.5-4B. Она дообучена для отладки программ, локализации ошибок, рассуждений о минимальных исправлениях, структурированного использования инструментов, function calling и агентских рабочих процессов с обратной связью от среды. В обучении использовались Trace Inversion, траектории взаимодействия с инструментами и curriculum SFT; среди заявленных наборов данных — коллекции трасс Claude Opus и Hermes agent reasoning traces. Модель представляет собой плотную модель примерно на 4 млрд параметров и распространяется в формате GGUF для локального запуска, в частности через llama.cpp. Заявлена поддержка мультимодального сценария image-text-to-text, а также reasoning и работы с кодом. В карточке указаны языки English, Chinese, Spanish, Russian и Japanese. Для ускорения генерации и speculative decoding тестировалась Multi-Token Prediction с параметром n=2. Контекстное окно и точные требования к аппаратным ресурсам не указаны, хотя модель позиционируется для ноутбуков с 16 ГБ памяти и ресурсно ограниченных сред. Сильными сторонами модели являются компактный размер, ориентация на локальное выполнение, отладку кода, агентные задачи, структурированные вызовы инструментов и сохранение стабильного форматирования при длинных контекстах. Ограничения включают отсутствие в представленных данных подробных количественных результатов, точного описания мультимодальных возможностей, контекстного окна и совместимости конкретных инструментов. Модель распространяется по лицензии Apache-2.0.

Seed-Coder-8B-Base — базовая предварительно обученная модель для генерации кода, разработанная ByteDance Seed. Это причинная плотная языковая модель архитектуры Llama с 7,6 млрд параметров, обученная на 6 трлн токенов из данных GitHub и других материалов о программировании в интернете. Модель поддерживает дополнение кода и заполнение пропусков методом Fill-in-the-Middle в контексте до 32 768 токенов. Модель предназначена для генерации и продолжения кода, в том числе восстановления пропущенной части между заданными фрагментами. В README сообщается о сравнительных результатах на бенчмарках генерации и дополнения кода, но они не гарантируют качество на конкретных языках и задачах. Это базовая, а не настроенная на инструкции версия: для диалога и следования пользовательским запросам разработчик предлагает отдельную инструктивную модель. Веса опубликованы в формате safetensors и распространяются по лицензии MIT.

Snowflake Arctic-Base — базовая языковая модель, разработанная командой Snowflake AI Research Team и предварительно обученная с нуля. Это гибридный трансформер с архитектурой dense-MoE: плотный блок на 10 млрд параметров сочетается с остаточным MoE-блоком из 128 экспертов; по README активно выбираются 17 млрд параметров на токен с помощью top-2 gating. В метаданных репозитория указано 11,1 млрд параметров, а нативное окно контекста составляет 4096 токенов. Модель принимает текст и генерирует текст, включая код. Она предназначена как базовая модель для генерации и продолжения текста, а также для создания собственных прикладных решений и последующего дообучения; версия Base не является instruct-вариантом. Для запуска README рекомендует Transformers версии 4.39 или выше с `trust_remote_code=True`; для инференса предлагается сервер с 8 ускорителями H100. Лицензия Apache-2.0 допускает использование в исследованиях, прототипах и продуктах.

Georgia Tech Research Institute представил StarCoder GPTeacher-Codegen — модель GPTBigCode для генерации кода по инструкциям. Она создана дообучением bigcode/starcoder на наборе teknium1/GPTeacher-codegen, содержащем пары инструкций и ответов для генерации кода. В README указано 4,5 тыс. пар для дообучения; базовая модель имеет 15,5 млрд параметров и обучалась на коде более чем на 80 языках программирования. Модель принимает текстовые запросы и выдаёт код или текстовые ответы о программировании. Она рассчитана на написание функций и фрагментов кода, а также на технические запросы; карточка рекомендует формат промптов Alpaca. Контекст модели составляет 8192 токена, тогда как дообучение проводилось с длиной контекста 1024 токена. Модель использует архитектуру GPTBigCode с Multi Query Attention и поддерживает Fill-in-the-Middle. Генерируемый код может содержать ошибки, быть неэффективным или небезопасным, а ранняя настройка следования инструкциям может давать нестабильные результаты. Модель распространяется по лицензии BigCode OpenRAIL-M; код, похожий на обучающие данные, может требовать атрибуции или соблюдения других условий исходной лицензии.

XwinCoder-34B — инструктивно дообученная модель генерации кода от команды Xwin-LM, основанная на CodeLLaMA. Она предназначена для создания и дополнения программного кода по запросам на естественном языке и для диалоговой работы с задачами программирования. В репозитории указаны результаты оценки XwinCoder-34B на HumanEval, MBPP и APPS-intro; авторы также сообщают о сравнимой с GPT-3.5-turbo производительности на шести бенчмарках. Модель построена на архитектуре LLaMA, содержит 33,5 млрд параметров и поддерживает контекст до 16 384 токенов. Карточка не сообщает перечень поддерживаемых языков программирования. Для использования требуются совместимые инструменты PyTorch и соблюдение лицензии Llama 2. Результаты бенчмарков не гарантируют качество на конкретных задачах; сгенерированный код следует проверять и тестировать.

ZAYA1-reasoning-base — плотная по архитектуре MoE-языковая модель Zyphra, основанная на Zyphra/ZAYA1-base и дополнительно обученная на 1 трлн токенов с упором на рассуждения. Она предназначена для генерации текста и диалогов, особенно для сложных задач по математике, STEM и программированию, требующих многошагового анализа. Модель содержит 7,7 млрд параметров по метаданным, использует архитектуру ZayaForCausalLM, токенизатор Gemma 3 и контекст до 32 768 токенов. В архитектуре применены механизм внимания Compressed Convolutional Attention, нелинейный маршрутизатор экспертов и обучаемое масштабирование остаточных связей. Модель демонстрирует сильные результаты на сложных математических и кодовых задачах, но README отмечает, что полного RL-постобучения она не проходила. Для запуска требуется форк Transformers с поддержкой Zaya. Лицензия — Apache-2.0.

Agnuxo/Agente-Director-Qwen2-7Bron-Instruct_CODE_Python_English_GGUF_16bit — локальный чат-ассистент для генерации кода, опубликованный Франсиско Ангуло де ла Фуэнте под именем Agnuxo. По README, модель основана на Qwen2, имеет 7 млрд параметров и предназначена для запуска локально; в репозитории указаны веса GGUF в формате F16 и лицензия Apache-2.0. Модель помогает писать и обсуждать код на Python, JavaScript, TypeScript, Rust, Go и C++, а также работать с научными вычислениями и библиотеками NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. README также заявляет навыки координации агентов через MCP и A2A и декомпозиции задач. Модель принимает текстовые запросы и генерирует текстовые ответы; контекст и подтверждённый перечень языков естественного языка в доступных данных не описаны. Указанные автором возможности не подкреплены результатами независимой оценки качества.

CodeFuse-StarCoder2-15B — языковая модель для программирования, разработанная CodeFuse и дообученная с помощью LoRA на нескольких задачах, связанных с кодом, на базе bigcode/starcoder2-15b. Она предназначена для генерации кода и диалогового взаимодействия при решении задач программирования. В README приведены результаты HumanEval pass@1 73,17% и оценки HumanEval-X для Python, JavaScript, Java, C++, Go, а также MBPP-500; эти показатели относятся к указанным тестам и не гарантируют качество в других сценариях. Модель использует плотную архитектуру StarCoder2 и содержит 21,7 млрд параметров; длина контекста — 16 384 токена. Репозиторий содержит веса Safetensors, а метаданные указывают поддержку чата. Для запуска README перечисляет PyTorch, Transformers, SentencePiece и CUDA. Лицензия в предоставленных данных не указана.

CodeGemma 7B — модель генерации кода от Google, построенная на базе Gemma. Это предварительно обученная декодерная модель с 7 млрд параметров, рассчитанная на дополнение кода и генерацию кода по текстовым запросам. Для дополнения в редакторе поддерживает заполнение пропусков между префиксом и суффиксом (fill-in-the-middle, FIM); также принимает фрагменты кода и запросы на естественном языке и может выдавать код и текст. Модель обучалась на дополнительных 500 млрд токенов, преимущественно на английском коде из открытых репозиториев, математических наборах данных и синтетически созданном коде. Подходит для автодополнения в IDE, генерации программного кода по описанию и учебных сценариев, связанных с кодом. Это базовый, не настроенный на инструкции вариант CodeGemma, поэтому карточка не заявляет о поддержке чата; для диалоговых сценариев предназначена отдельная версия codegemma-7b-it. Разработчик указывает на общие ограничения больших языковых моделей. Лицензия — Gemma Terms of Use.

Bud Code Millenials 8B — модель генерации кода от Bud Ecosystem, созданная дообучением языковой модели семейства Llama. Она предназначена для написания кода по текстовому запросу и других сценариев генерации программного кода. В карточке указано значение HumanEval pass@1 67,1; это результат оценки разработчиков, который может зависеть от используемого скрипта и условий тестирования. Модель имеет около 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors. Метаданные указывают контекст до 8192 токенов и библиотеку Transformers. Модель принимает текст и генерирует текст; карточка не указывает основной естественный язык, а среди языков отмечен код. Модель может ошибаться, выдавать вводящий в заблуждение код и хуже справляться с задачами вне программирования. Лицензия указана как llama3.

Codestral 2508 — языковая модель Mistral для задач программирования, выпущенная в конце июля 2025 года. Она предназначена для сценариев с низкой задержкой и частыми запросами, включая дополнение кода в середине фрагмента (fill-in-the-middle), исправление кода и генерацию тестов. Модель подходит для встраивания в инструменты разработки, где нужны быстрые подсказки по коду и помощь при редактировании. README не сообщает размер, архитектуру, поддерживаемые языки программирования или длину контекста. Условия лицензии в предоставленных данных также не описаны.