II.2Создание и понимание программного кода

cyankiwi/Ornith-1.0-9B-AWQ-FP8 — квантизированная версия модели Ornith-1.0-9B, разработанной deepreinforce-ai и опубликованной cyankiwi. Модель предназначена прежде всего для агентного программирования, генерации кода и решения задач разработки в средах с терминалом и инструментами. Это наиболее компактная модель семейства Ornith, рассчитанная на эффективный запуск на одной GPU. Базовая модель относится к текстовым генеративным моделям и работает с языками EN, ZH, HI, AR, RU, JA, KO, NL, FR и ES. Ornith-1.0 использует обучение с подкреплением для совместной оптимизации решений и scaffolding, управляющего поиском и выполнением этих решений. Среди заявленных преимуществ — результаты на бенчмарках агентного программирования Terminal-Bench 2.1, SWE-Bench, NL2Repo и OpenClaw; для версии 9B приведены показатели 43,1 и 40,6 на вариантах Terminal-Bench 2.1. Ключевое ограничение — меньший размер по сравнению с версиями 31B и MoE, поэтому модель может уступать им в сложных задачах. Размер опубликованного файла составляет 11,91 ГБ; максимальная длина контекста и точные сведения об архитектуре в карточке не указаны. Модель распространяется по лицензии MIT без региональных ограничений.

Ornith-1.5-35B-A3B-AWQ-FP8 — квантованная версия модели Ornith-1.5-35B-A3B, разработанной командой Ornith AI. Модель предназначена для генерации текста, программирования и агентских сценариев, включая работу с инструментами и выполнение задач в терминале. Она обучалась с использованием цикла самоулучшения, который совместно оптимизирует генерацию задач, построение scaffolding и траекторий решений с применением reinforcement learning. Модель использует архитектуру mixture-of-experts: при общем размере около 35B параметров на каждый токен активируется примерно 3B параметров. Представленная версия имеет формат AWQ-FP8 и размер около 39,76 ГБ. Заявлена поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. В README не указаны размер контекста и мультимодальные возможности. Сильной стороной модели является специализация на кодировании и агентских задачах: разработчики сообщают о превосходстве над сопоставимой Qwen3.6-35B-A3B и рядом плотных моделей в соответствующих бенчмарках. Ограничения, подробные требования к оборудованию и параметры инференса в карточке не приведены. Модель распространяется по лицензии MIT.

Ornith-1.5-35B-A3B — языковая модель для генерации текста, разработанная командой Ornith AI. Она ориентирована прежде всего на программирование, работу с терминалом и агентные сценарии, включая автономное решение задач разработки и взаимодействие с инструментами. Модель использует архитектуру mixture-of-experts: при общем размере около 35 млрд параметров на каждый токен активируется примерно 3 млрд. Ornith-1.5 развивает Ornith-1.0, применяя цикл самоулучшения с совместной оптимизацией генерации задач, построения scaffold и rollout-решений посредством reinforcement learning. В README не указаны поддерживаемые языки, модальности и размер контекста; по заявленным тестам модель особенно сильна в агентном программировании и задачах SWE-bench и Terminal-Bench. К сильным сторонам относятся высокая эффективность вычислений за счёт разреженной активации и заявленное превосходство над сопоставимыми моделями в кодинговых и агентных бенчмарках. Ограничения, включая качество вне этих сценариев, безопасность и практические требования к запуску, в карточке подробно не описаны. Модель распространяется по лицензии MIT.

Ornith-1.5-35B-A3B — среднеразмерная Mixture-of-Experts модель семейства Ornith-1.5, разработанная командой Ornith. Она создана как развитие Ornith-1.0, обучавшейся на основе Qwen3.5 и Gemma4 с дополнительным продолженным предварительным обучением, mid-training и post-training. В Ornith-1.5 применяется цикл самоулучшения, в котором совместно оптимизируются генерация задач, построение scaffold и rollouts решений с использованием reinforcement learning. Модель предназначена прежде всего для генерации текста, программирования и агентных сценариев, включая работу с терминалом и автономное решение задач в репозиториях. При общем размере около 35 млрд параметров на каждый токен активируется примерно 3 млрд параметров, что снижает вычислительную нагрузку по сравнению с полноразмерной плотной моделью. В README указана интеграция с библиотекой MLX и pipeline text-generation; сведения о модальностях, размере контекста и поддерживаемых языках не приведены. Сильной стороной модели заявлена производительность в coding- и agentic-бенчмарках: она превосходит сопоставимую Qwen 3.6-35B-A3B, а также плотные Gemma 4-31B и Muse Glimmer-30B в ряде агентных задач. В частности, приведены результаты 79 на SWE-bench Verified и 67,8–68,5 на Terminal-Bench 2.1 в зависимости от используемого окружения. Ограничения включают отсутствие в карточке подробных сведений о качестве вне программирования, контекстном окне, языках, требованиях к оборудованию и лицензии; лицензия в README не указана.

Ornith-1.5-35B-A3B — языковая модель семейства Ornith-1.5, разработанная командой Ornith. Это среднеразмерная sparse Mixture-of-Experts модель с 35 млрд параметров, из которых при обработке каждого токена активируется около 3 млрд. Представленная версия предназначена для запуска через библиотеку MLX в 4-битном формате квантования и поддерживает генерацию текста. Модель ориентирована прежде всего на программирование, работу с терминалом и агентские сценарии, включая автономное решение задач разработки и взаимодействие с инструментами. Согласно карточке модели, она обучалась с использованием цикла самоулучшения: модель совместно оптимизировала генерацию задач, построение scaffolding и последовательности решений с помощью reinforcement learning. Заявлены высокие результаты на Terminal-Bench 2.1 и SWE-bench Verified; однако приведённые показатели зависят от конкретного окружения и конфигурации агентского harness. К сильным сторонам относятся высокая эффективность инференса за счёт активации небольшой части параметров, специализация на кодировании и агентской работе, а также 4-битное представление для запуска в экосистеме MLX. В доступных данных не указаны максимальная длина контекста, полный список поддерживаемых языков, мультимодальные возможности, требования к оборудованию и лицензия, поэтому эти характеристики и условия использования требуют дополнительной проверки.

Ornith-1.5-35B-A3B — языковая модель для генерации текста, разработанная командой Ornith AI. Она относится к семейству Ornith-1.5 и создана с применением подхода непрерывного самоулучшения: модель самостоятельно генерирует новые учебные задачи, выявляет эффективные стратегии их решения и совершенствуется посредством reinforcement learning. В основе Ornith-1.0, на которой развивалась эта линейка, использовались Qwen3.5 и Gemma4 с дополнительным продолжением предобучения, mid-training и post-training. Модель предназначена прежде всего для программирования и агентных сценариев, включая работу в терминале, решение задач из репозиториев и автоматизацию многошаговых операций. Это mixture-of-experts-модель с общим размером около 35 млрд параметров, из которых для обработки каждого токена активируется примерно 3 млрд. В карточке не указаны поддерживаемые языки, размер контекста и мультимодальные возможности; по заявленному pipeline_tag это text-generation-модель. К сильным сторонам относятся результаты на coding- и agentic-бенчмарках: заявлены оценки 67,8 и 68,5 на Terminal-Bench 2.1 в конфигурациях Terminus-2 и Claude Code, а также 79 на SWE-bench Verified. По данным разработчика, модель превосходит сопоставимую Qwen3.6-35B-A3B и ряд плотных моделей в агентном программировании. Ограничения, требования к оборудованию и особенности инференса в README не описаны. Модель распространяется по лицензии MIT.

Ornith-1.5-35B-A3B REAP-50 NVFP4A16 — локальная текстовая модель для генерации кода, созданная Ttimms на основе Ornith-1.5-35B-A3B от ornith-ai. Модель предназначена для программирования, генерации и исправления кода, а также агентских сценариев разработки. Она рассчитана на запуск в пределах 16 ГБ видеопамяти, в частности на RTX 5070 Ti, и может обслуживаться через vLLM. Это разреженная Mixture-of-Experts-модель с архитектурой Qwen3_5MoeForCausalLM. В результате pruning число экспертов сокращено с 256 до 128, а эффективный размер — примерно с 35,95 до 19 млрд параметров; маршрутизация 8 из 128 экспертов сохранена. Веса квантизованы методом GPTQ-NVFP4A16 в 4-битный формат с использованием compressed-tensors. Модель работает только с текстом: vision tower и MTP draft head удалены, поэтому визуальные задачи и функции MTP недоступны. Заявленный контекст — до 49 тыс. токенов в описанном сценарии SWE-bench. На опубликованном checkpoint модель показала 84,15% на HumanEval+, 90,24% на HumanEval и 89,15% на MBPP+ при жадной генерации; в SWE-bench Verified результат составил 22 из 50 задач, или 44%, при ограничении контекста и использовании mini-swe-agent. Эти показатели получены в конкретной конфигурации и могут изменяться из-за особенностей FP4-квантизации и пакетирования. Модель ориентирована прежде всего на код и локальный запуск, а сокращение экспертов, удаление визуальной башни и MTP-компонента являются основными ограничениями. Лицензия MIT унаследована от базовой модели.

Ornith-1.5-35B-A3B-TQ3_4S — компактная сборка модели Ornith-1.5-35B-A3B в формате GGUF с квантизацией TurboQuant TQ3_4S. В карточке указана архитектура Qwen3.5-MoE: всего 35,9 млрд параметров, из которых около 3 млрд активны на токен. Модель предназначена для диалоговой генерации текста, программирования и вызова инструментов; исходная модель также поддерживает обработку изображений при подключении vision-проектора. Для запуска требуется специализированная сборка turbo-tan/llama.cpp-tq3, поддерживающая тип тензоров TQ3_4S. В локальных измерениях автора модель занимала 17 ГиБ и показывала высокую скорость декодирования на RTX 3090; приведённые результаты бенчмарков являются собственными измерениями автора карточки. Контекст запуска до 262 144 токенов указан в параметрах тестирования, но не подтверждён как штатный предел модели. Лицензия — MIT.

Карточка модели Deepdive404-3/Ornith-1.5-397B на Hugging Face совпадает с карточкой ornith-ai/Ornith-1.5-397B, поэтому описание составлено по ней. Ornith-1.5-397B — флагманская модель семейства Ornith-1.5 от ornith-ai, созданная как модель с открытыми весами для агентных задач и самоулучшения. Это смесь экспертов (MoE) на 397 млрд параметров, реализованная в архитектуре Qwen3.5 MoE; репозиторий содержит веса SafeTensors, а лицензия — MIT. Модель предназначена прежде всего для агентного программирования: выполнения задач в терминале, исправления ошибок и работы с репозиториями кода. Она поддерживает диалог и вызов инструментов через совместимый с OpenAI интерфейс. Заявленное окно контекста — до 262 144 токенов; README сообщает о высоких результатах на Terminal-Bench 2.1 и DeepSWE. Для запуска требуется многокарточная система: в формате bf16 веса занимают около 800 ГБ; в README приведён пример с восемью GPU H200. Для уменьшения требований авторы предлагают использовать отдельные квантизованные сборки FP8 или INT4. Модель также можно запускать с расширением контекста YaRN, но оно может немного снижать качество на обычной длине запросов.

Ornith-1.5-397B — флагманская модель семейства Ornith-1.5 от ornith-ai, созданная как модель с открытыми весами для агентных задач и самоулучшения. Это смесь экспертов (MoE) на 397 млрд параметров, реализованная в архитектуре Qwen3.5 MoE; репозиторий содержит веса SafeTensors, а лицензия — MIT. Модель предназначена прежде всего для агентного программирования: выполнения задач в терминале, исправления ошибок и работы с репозиториями кода. Она поддерживает диалог и вызов инструментов через совместимый с OpenAI интерфейс. Заявленное окно контекста — до 262 144 токенов; README сообщает о высоких результатах на Terminal-Bench 2.1 и DeepSWE. Для запуска требуется многокарточная система: в формате bf16 веса занимают около 800 ГБ; в README приведён пример с восемью GPU H200. Для уменьшения требований авторы предлагают использовать отдельные квантизованные сборки FP8 или INT4. Модель также можно запускать с расширением контекста YaRN, но оно может немного снижать качество на обычной длине запросов.

Ornith-1.5-397B — крупная языковая модель от команды Ornith AI, представленная как флагман семейства Ornith-1.5. Модель развивает Ornith-1.0, созданную на базе Qwen3.5 и Gemma4 с дополнительным продолжением предобучения, промежуточным обучением и постобучением. В Ornith-1.5 применяется цикл самоулучшения с совместной оптимизацией генерации задач, построения scaffolding и последовательностей решений с использованием reinforcement learning. Модель предназначена прежде всего для сложных задач программирования и работы с инструментами, включая разработку, исправление ошибок и выполнение задач в терминале. Ornith-1.5-397B имеет архитектуру mixture-of-experts с 397 миллиардами параметров. В карточке указано текстовое поколение, однако сведения о поддерживаемых языках, длине контекста и других модальностях не приведены. Согласно заявленным результатам, модель набрала 86,1 на Terminal-Bench 2.1 с Terminus-2, 85,2 с Claude Code, 86 на SWE-bench Verified и 56 на DeepSWE. Это указывает на сильные стороны в агентном программировании и решении инженерных задач; при этом приведённые показатели зависят от конкретных инструментов и протоколов оценки и не гарантируют аналогичные результаты в других сценариях. Модель распространяется по лицензии MIT.

Ornith-1.5-9B — плотная языковая модель примерно на 9 млрд параметров, разработанная командой Ornith AI. Она относится к семейству Ornith-1.5 и распространяется в формате MLX для задач генерации текста. Модель создана с применением подхода непрерывного самоулучшения: она совместно оптимизирует генерацию учебных задач, построение scaffolds и rollouts решений с использованием reinforcement learning, вместо опоры только на фиксированный набор вручную подготовленных задач. Модель предназначена для программирования, работы с терминалом, решения инженерных задач и других сценариев генерации текста. По заявленным результатам она показывает сильные показатели в Terminal-Bench 2.1, SWE-bench Verified, SWE-bench Pro и SWE-bench Multilingual; например, результаты составляют 46,2 и 47 баллов в двух конфигурациях Terminal-Bench 2.1, 70,6 в SWE-bench Verified и 47,5 в SWE-bench Pro. Разработчик позиционирует её как наиболее лёгкую модель семейства, рассчитанную на эффективное развёртывание на одной GPU. Ключевые ограничения связаны с неполнотой доступной карточки: в README не указаны размер контекста, точный набор поддерживаемых языков, дополнительные модальности, конкретная базовая архитектура и лицензия. Для мобильных устройств упомянут отдельный квантизованный вариант Ornith-1.5-9B-Mobile, однако описываемая модель предназначена прежде всего для развёртывания на одной GPU.

Ornith-1.5-9B-MXFP4_Hybrid-Imatrix-GGUF — это квантизированная GGUF-сборка модели Ornith-1.5-9B, разработанной Ornith AI и опубликованной пользователем jashepp. Модель предназначена для генерации текста, диалоговых сценариев, агентного использования, работы с инструментами и особенно для программирования и редактирования кода. Она ориентирована на задачи, где важны следование инструкциям, планирование и пошаговое рассуждение; автор рекомендует сохранять режим reasoning/thinking включённым. Модель имеет размер 9B параметров и распространяется в нескольких вариантах смешанной точности с использованием MXFP4, Q8_0 и F16. В сборках применена importance matrix (imatrix), а точность распределена по слоям вручную: наиболее чувствительные компоненты и общие части модели сохраняются в более высокой точности, тогда как разреженные экспертные блоки сжимаются до MXFP4. Доступны файлы размером примерно от 4,77 до 11,4 ГБ. Заявлен английский язык; модель относится к текстовым генеративным моделям и основана на архитектуре и весах Ornith-1.5-9B. Сильными сторонами являются улучшенное следование инструкциям, рассуждение, агентные сценарии и сохранение качества при снижении требований к памяти благодаря гибридной квантизации. Ограничения включают компромисс между размером и качеством в разных вариантах, отсутствие в README сведений о длине контекста, поддерживаемых языках помимо английского и подробных количественных результатах. Модель распространяется по лицензии MIT.

Orythos-9B — мультимодальная модель на 9 млрд параметров, созданная CloudGoat слиянием моделей Qwythos-9B-Claude-Mythos-5-1M и Ornith-1.5-9B методом DARE-TIES на базе Qwen3.5-9B. Она предназначена для диалога, анализа изображений, программирования и агентных сценариев, включая взаимодействие с инструментами. В карточке приведён результат HumanEval pass@1 89%; это заявленный авторами результат на бенчмарке. Модель использует архитектуру Qwen3.5 для генерации текста с обработкой изображений. Репозиторий содержит веса Safetensors и варианты GGUF, включая BF16 и Q4_K_M. Для практического использования доступны диалоговые и визуальные возможности, а также интерфейс вызова инструментов. Модель подойдёт для помощи в программировании и задач, где нужны рассуждения, анализ изображений или агентное взаимодействие. README не описывает языковой охват и длину контекста. Условия лицензии в предоставленных данных не указаны.

OxCoder-9B-MERNIK-GGUF — это набор GGUF-квантизированных сборок модели OxCoder-9B, разработанной OrionLLM и дообученной для агентного программирования. Модель предназначена для генерации кода и решения задач программирования; в README приведены результаты на HumanEval, где лучшая сборка показывает pass@1 90,24% (148 из 164 заданий). Модель рассчитана на использование с llama.cpp и поддерживает формат GGUF. Базовая модель имеет около 9 млрд параметров, языком заявлен английский, а заявленный контекст составляет 262K токенов. Квантизация MERNIK использует распределение битности на основе imatrix с учётом perplexity, KLD относительно эталона и результатов на оцениваемых задачах. Доступны сборки размером 5,36 ГБ (Q4) и 6,83 ГБ (Q8); для сравнения приведена стандартная Q6_K размером 7,36 ГБ. Сильной стороной является высокая эффективность на HumanEval, однако показатели зависят от конкретной сборки, а результаты на нестандартном тесте GPQA-recognition ниже, чем у некоторых альтернатив, поэтому они не характеризуют полноценные рассуждения. Модель распространяется по лицензии Apache-2.0.

Blarfursnarg/OxCoder-9B-mlx — версия модели OrionLLM/OxCoder-9B, преобразованная для формата MLX с помощью mlx-lm 0.31.3. Метаданные указывают на дообучение базовой модели, архитектуру семейства Qwen 3.5 с плотной структурой и размером 9 млрд параметров; доступен интерфейс чата. Модель предназначена для генерации текста в диалоговом формате и, согласно описанию базовой модели, для агентного программирования, работы с кодовыми базами и задач в терминале. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Карточка не приводит сведений о длине контекста или поддерживаемых естественных языках.

patched-coder-34b — модель для работы с кодом, разработанная codelion на основе CodeLlama-34b-Python и дообученная следовать инструкциям по внесению исправлений. Она предназначена для исправления ошибок, устранения уязвимостей, миграции API и других задач сопровождения кода. Модель принимает инструкции в формате Alpaca; в качестве основы использует архитектуру Code Llama с 33,5 млрд параметров и контекстом до 16 384 токенов. Для дообучения использовались относящиеся к исправлению ошибок коммиты Python из открытого набора bigcode/commitpackft. В README приведены результаты оценки на HumanEval, HumanEval Fix Python и Static Analysis Eval; они указывают на улучшение относительно CodeLlama-34b-Python в задачах исправления кода и уязвимостей, но не гарантируют качество в реальных проектах. Модель прошла ограниченное тестирование, поэтому перед практическим применением её ответы и исправления следует проверять. Лицензия — Llama 2.

Phi-3.5-MoE-instruct — языковая модель Microsoft для диалоговых и генеративных приложений. Она использует архитектуру смеси экспертов (MoE), обучена на синтетических данных и отфильтрованных общедоступных документах с акцентом на данные для рассуждений, а затем дообучена с помощью supervised fine-tuning, PPO и DPO. В метаданных указано 4 млрд параметров; README отдельно сообщает о 6,6 млрд активных параметров. Модель принимает текстовые запросы в формате чата и генерирует текст, включая код. Карточка заявляет поддержку нескольких языков и контекст до 128 тыс. токенов, тогда как метаданные каталога указывают 4096 токенов. Модель предназначена для общих генеративных систем и сценариев с ограничениями по памяти, вычислениям или задержке; особо отмечены рассуждения, код, математика и логика. Она выпущена под лицензией MIT. Результаты требуют проверки для конкретных задач: модель может ошибаться, а многошаговые jailbreak-запросы могут снижать устойчивость защитных механизмов.

Phi-3.5-MoE-instruct-4bit — это 4-битная квантизированная версия инструкционной языковой модели Phi-3.5-MoE, разработанной Microsoft и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm. Модель содержит около 4 млрд параметров, поддерживает архитектуру Mixture of Experts и распространяется для работы через библиотеку Transformers и инструменты MLX. Модель предназначена для генерации текста в диалогах, ответов на вопросы, выполнения инструкций и генерации кода. Она ориентирована на многоязычные сценарии и может использоваться в локальных приложениях, чат-ботах, помощниках разработчика и системах автоматизации работы с текстом. Максимальная длина контекста составляет 4096 токенов. Лицензия MIT допускает свободное использование при соблюдении её условий. 4-битное представление снижает требования к памяти и подходит для локального запуска, но может уступать полноразмерной версии по точности и качеству генерации.

Phi-3-Medium-4K-Instruct — плотная языковая модель семейства Phi-3, разработанная Microsoft. Модель содержит 13,8 млрд параметров и рассчитана на контекст до 4096 токенов. Она обучена на синтетических данных и отфильтрованных общедоступных веб-текстах с упором на качество и рассуждения, а затем дообучена с помощью supervised fine-tuning и direct preference optimization для следования инструкциям и повышения безопасности. Модель предназначена для диалоговых и генеративных приложений общего назначения, особенно для сред с ограниченными вычислительными ресурсами и требованиями к задержке, а также для задач программирования, математики, логики и понимания текста. Она работает с текстом и ориентирована прежде всего на английский язык; для других языков качество может быть ниже. Весы доступны в формате safetensors, лицензия — MIT. Как и другие языковые модели, Phi-3-Medium-4K-Instruct может выдавать недостоверные или устаревшие сведения, предвзятые либо оскорбительные ответы. Генерацию кода следует проверять: обучающие данные для кода преимущественно охватывают Python и распространённые библиотеки.

Модель edumunozsala/phi3-mini-4k-qlora-python-code-20k — дообученная методом QLoRA версия Phi-3 Mini-4K-Instruct от Microsoft, созданная автором репозитория на наборе инструкций по Python-коду python_code_instructions_18k_alpaca. Это плотная авторегрессионная языковая модель семейства Phi-3 с 3,7 млрд параметров и контекстом до 4096 токенов. Модель предназначена для генерации Python-кода по текстовым инструкциям и ответов на вопросы о программировании в диалоговом формате. Веса опубликованы в формате Safetensors; используется библиотека Transformers. Лицензия — Apache-2.0. Карточка описывает обучение на задачах с Python-кодом, поэтому результаты за пределами этого сценария могут быть менее надёжными.

Phind-CodeLlama-34B-Python-v1 — языковая модель для генерации кода, разработанная Phind на основе CodeLlama-34B-Python. Модель с плотной архитектурой Llama содержит 33,5 млрд параметров и рассчитана на контекст до 16 384 токенов. Она дообучена на внутреннем наборе примерно из 80 тысяч высококачественных задач по программированию и решений в формате «инструкция — ответ»; обучение проводилось в течение двух эпох без LoRA. Модель предназначена для ответов на задачи по программированию и генерации решений на Python. В README сообщается результат 69,5% pass@1 на HumanEval. Модель частично настроена на следование инструкциям, но не оптимизирована для диалогового чата. Доступны веса PyTorch для Transformers; лицензия указана как llama2. Разработчик предупреждает, что модель прошла ограниченное тестирование и нуждается в дополнительной проверке безопасности перед практическим развёртыванием.

Prox-Llama-3-8B-abliterated-orpo — языковая модель OpenVoid на архитектуре Llama 3 с 7,5 млрд параметров. Это дообученная версия Meta-Llama-3-8B-Instruct, рассчитанная на генерацию и объяснение кода, а также вопросы по кибербезопасности и техникам взлома. Модель поддерживает диалог и работу с кодом, принимает текст и генерирует текст; для английского указана поддержка в карточке. Контекст составляет 8192 токена. В README приведены результаты HumanEval v1.0 pass@1 0,537 и EvalPlus v1.1 pass@1 0,482. Модель описана как uncensored; ответы могут быть предвзятыми или непоследовательными, поэтому их следует проверять, особенно в критически важных сценариях. Доступна по лицензии Apache-2.0.

Python-Code-33B — дообученная Ajibawa-2023 языковая модель для генерации кода на Python с подробными пояснениями. В карточке указано, что модель обучена на более чем 23 тысячах наборов кода и диалогов в формате Vicuna/ShareGPT, созданных с помощью GPT-3.5 и GPT-4. Архитектура — плотная Llama с 32,3 млрд параметров; модель использует PyTorch и имеет контекст 2048 токенов. Модель предназначена для генерации фрагментов Python-кода и объяснения их работы в формате диалога с помощником. Автор сообщает о полном дообучении на базе Llama; в README названы и Llama-2, и Llama-1, поэтому точную базовую версию установить нельзя. Лицензия CC-BY-NC-ND-4.0 запрещает коммерческое использование и распространение производных материалов на иных условиях.

Python-Tab-Completion-CodeLlama-70b — вариант Code Llama на 70 млрд параметров, разработанный Meta и размещённый в неофициальном репозитории emissary-ai. Это авторегрессионная плотная Transformer-модель для генерации и понимания кода, настроенная для Python и предназначенная, в частности, для автодополнения кода. Она принимает текст и генерирует текст; поддерживает контекст до 4096 токенов. Модель не предназначена для диалогового следования инструкциям или инфиллинга. Модель может помогать дописывать фрагменты Python и создавать или разбирать код. Карточка указывает на применение в коммерческих и исследовательских сценариях, но README ограничивает предполагаемые естественные языки английским; основная специализация — язык программирования Python. Веса доступны в форматах PyTorch и Safetensors. Использование регулируется лицензией Meta для Llama 2.

Qodo-Embed-1-1.5B — модель эмбеддингов кода от Qodo, дообученная на базе Alibaba-NLP/gte-Qwen2-1.5B-instruct. Она предназначена для поиска по коду и сопоставления естественно-языковых запросов с фрагментами кода, а также для поиска похожих фрагментов кода. Такие эмбеддинги можно использовать в поисковых системах и RAG-сценариях для разработки ПО. Архитектура — плотная Qwen2, размер — 1,5 млрд параметров; модель выдаёт векторы размерности 1536. По данным метаданных, нативный контекст составляет 131 072 токена; README указывает максимум входа 32 тыс. токенов. README сообщает о поддержке Python, C++, C#, Go, Java, JavaScript, PHP, Ruby и TypeScript. Метаданные указывают библиотеку Sentence Transformers и формат safetensors. Разработчики заявляют о высоких результатах на COIR и MTEB, однако это заявление карточки модели и не гарантирует качества на конкретном наборе данных. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией репозитория.

Qodo-Embed-1-7B — модель эмбеддингов кода, разработанная Qodo для поиска по программному коду. Она дообучена на базе Alibaba-NLP/gte-Qwen2-7B-instruct и использует архитектуру Qwen2 с 7,1 млрд параметров. Модель преобразует текстовые запросы и фрагменты кода в векторы размерностью 3584 для поиска естественным языком по коду и поиска похожего кода. Модель предназначена для поиска кода, извлечения контекста для RAG и семантического сопоставления кода. README заявляет поддержку Python, C++, C#, Go, Java, JavaScript, PHP, Ruby и TypeScript. Метаданные указывают контекст до 131 072 токенов; README сообщает максимальный размер входа 32 тыс. токенов. Для работы через Transformers указаны зависимости transformers и flash_attn. Репозиторий содержит веса safetensors и имеет лицензию other, поэтому условия использования следует сверять с карточкой модели.

Qwen2.5 — семейство текстовых генеративных моделей, разработанное командой Qwen. Репозиторий cortexso/qwen2.5 предоставляет варианты моделей общего назначения, а также специализированные версии для программирования и математики. Модели предназначены для генерации и обработки текста, включая разработку программного кода и решение математических задач, с выбором размера под доступные вычислительные ресурсы и требования к качеству. Доступны варианты общего назначения размером от 0,5 до 72 млрд параметров, а также Qwen2.5 Coder объёмом 1,5 и 7 млрд параметров и Qwen2.5 Math объёмом 1,5 и 7 млрд параметров. В README не указаны архитектура, поддерживаемые языки, контекстное окно, модальности и конкретные показатели качества, поэтому эти характеристики нельзя надёжно определить по представленным данным. Модели распространяются для работы через Jan и Cortex; конвертером указан Homebrew. Лицензия — Apache 2.0. Сильной стороной семейства является широкий диапазон размеров и наличие специализированных вариантов для кода и математики, что позволяет выбирать модель под конкретный сценарий. Ограничения и требования к аппаратным ресурсам зависят от выбранного варианта и в README подробно не описаны.

unsloth/Qwen2.5-14B-bnb-4bit — 4-битная версия базовой языковой модели Qwen2.5-14B, подготовленная Unsloth на основе Qwen/Qwen2.5-14B, разработанной командой Qwen. Модель предназначена для задач генерации и продолжения текста, а также для последующего дообучения, включая SFT, RLHF и continued pretraining. Для диалоговых сценариев базовую модель использовать не рекомендуется без дополнительного постобучения. Это авторегрессионная текстовая модель с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm и смещениями в QKV-внимании. Она содержит 14,7 млрд параметров, из которых 13,1 млрд не относятся к эмбеддингам, включает 48 слоёв и использует GQA с 40 головами для Q и 8 для KV. Контекстное окно составляет 131 072 токена. Заявлена поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Модель ориентирована только на работу с текстом; сведения о других модальностях отсутствуют. К сильным сторонам относятся улучшенные по сравнению с Qwen2 возможности в программировании и математике, следование инструкциям, обработка структурированных данных и генерация структурированных ответов, включая JSON, а также поддержка длинного контекста. 4-битное представление снижает требования к памяти и удобно для локального запуска и дообучения, однако может приводить к потере точности по сравнению с полной версией. Модель распространяется по лицензии Apache-2.0.

duyntnet/Qwen2.5-14B-Instruct-imatrix-GGUF — набор GGUF-квантизаций инструкционно дообученной языковой модели Qwen2.5-14B-Instruct, первоначально разработанной командой Qwen компании Alibaba Cloud. Репозиторий предназначен для локального запуска и инференса через llama.cpp, KoboldCPP, text-generation-webui или Ollama. Модель относится к авторегрессионным causal language models и ориентирована на диалог, следование инструкциям, генерацию текста, программирование, математику, работу со структурированными данными и формирование структурированных ответов, включая JSON. Указана поддержка более 29 языков, в том числе английского, китайского, русского, французского, испанского, немецкого, японского и корейского. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в Attention QKV и GQA; модель содержит около 14,7 млрд параметров, 48 слоёв, 40 голов внимания для Q и 8 для KV. Заявлена длина контекста до 131 072 токенов и генерация до 8192 токенов, однако текущая конфигурация репозитория рассчитана на 32 768 токенов; для более длинных входов требуется настройка YaRN. Сильные стороны модели — улучшенные возможности в кодировании и математике, следование инструкциям, генерация длинных текстов и устойчивость к различным системным промптам. Ограничения включают необходимость совместимого инференс-движка и дополнительной настройки для контекста свыше 32 768 токенов. В метаданных указана лицензия other; конкретные условия лицензии в README не раскрыты.