II.2Создание и понимание программного кода

airoboros-l2-13b-gpt4-2.0 — языковая модель, дообученная Jondurbin на основе Llama 2 с использованием синтетических инструкций, созданных GPT-4 версии 0614. Это плотная авторегрессионная модель на 12,9 млрд параметров с контекстом до 4096 токенов, опубликованная в формате PyTorch. Модель предназначена для диалогов и выполнения инструкций: она отвечает на вопросы, в том числе по предоставленному контексту, помогает с программированием, формирует структурированные ответы и планы для сценариев с инструментами. Карточка описывает настройку формата промпта с метками USER и ASSISTANT; для контекстных вопросов рекомендуются явные разделители источников. Функциональность вызова инструментов требует внешнего механизма, который разбирает и исполняет сгенерированный план. Модель обучена на синтетических данных, поэтому ответы могут содержать ошибки или выдуманные сведения; инструкция «не выдумывай ответ» может помочь в вопросах по контексту, но не гарантирует точность. В карточке указана неоднозначная лицензия для вариантов Llama 2; коммерческие условия следует проверять по лицензии репозитория. Ограничение «только исследования» в README относится к оригинальным Llama-моделям 33B/65B, а не к этому варианту Llama 2.

jondurbin выпустил инструкционно дообученную модель Airoboros на базе Llama 2 с 13 млрд параметров. Она обучена на синтетических инструкциях Airoboros, созданных GPT-4: серия 2.0 использует данные версии GPT-4 от июня 2023 года, а вариант m2.0 дополнительно объединяет датасет 1.4.1 без дубликатов и категории system, включая данные GPT-4 от марта 2023 года. Модель предназначена для генерации ответов на инструкции, вопросов по заданному контексту, помощи с программированием и построения аргументов функций в JSON или YAML. Для диалога применяется формат с маркерами USER и ASSISTANT и заданным системным префиксом; заявленная длина контекста — 4096 токенов. Архитектура — плотная LlamaForCausalLM, веса доступны в формате PyTorch. README описывает модель как uncensored и указывает, что она настроена отвечать без отказов; поэтому ответы могут включать небезопасное или сомнительное содержание. Автор отмечает, что результаты вариантов 2.0 и m2.0 следует сравнивать на практике. Лицензия указана как other; README характеризует лицензию 7B/13B как неоднозначную, поэтому условия использования следует уточнить в карточке модели.

airoboros-l2-70b-3.1.2 — экспериментальная инструктивная языковая модель от jondurbin, созданная на базе Llama 2 и дообученная на наборе airoboros-3.1, преимущественно на синтетических данных. Это плотная авторегрессионная модель семейства Llama с 68,7 млрд параметров и контекстом до 4096 токенов; она принимает текст и генерирует текст. Для диалогов используется шаблон Llama 2 Chat. Модель предназначена для следования инструкциям и решает широкий круг задач: ответы на вопросы по предоставленному контексту, суммаризация, математические решения в формате MathJSON, извлечение данных из логов, анонимизация, программирование и генерация аргументов для вызова функций. Она также обучалась на многошаговых инструкциях и диалогах с учётом системного промпта и истории беседы. Для MathJSON автор рекомендует низкую температуру генерации; исполнение планов или вызовов функций требует внешнего кода. Модель распространяется по лицензии Llama 2. Карточка называет её экспериментальной и отмечает, что часть данных по снятию ограничений не опубликована.

Карточка модели jondurbin/airoboros-l2-70b-gpt4-2.0 на Hugging Face совпадает с карточкой jondurbin/airoboros-65b-gpt4-2.0, поэтому описание составлено по ней. airoboros-65b-gpt4-2.0 — плотная языковая модель семейства LLaMA на 65 млрд параметров, дообученная jondurbin для следования инструкциям на синтетических примерах, созданных GPT-4. Серия 2.0 использует данные GPT-4 версии 0614; вариант m2.0 дополнительно объединяет набор данных 1.4.1 без дубликатов и категории system. Модель предназначена для диалоговых ответов, вопросов по предоставленному контексту, программирования, построения планов и генерации структурированных аргументов функций в JSON или YAML. Для диалога используется текстовый шаблон с ролями USER и ASSISTANT; заявленная длина контекста — 2048 токенов. В README для моделей 65B отмечено QLoRA-дообучение. Это текстовая модель, и качество её ответов не гарантирует точность: карточка рекомендует явно просить не придумывать ответ при недостатке данных. Лицензия CC BY-NC 4.0 разрешает некоммерческое использование; коммерческое использование запрещено.

Карточка модели jondurbin/airoboros-l2-7b-gpt4-m2.0 на Hugging Face совпадает с карточкой jondurbin/airoboros-33b-gpt4-m2.0, поэтому описание составлено по ней. airoboros-33b-gpt4-m2.0 — плотная авторегрессионная языковая модель семейства LLaMA с 32,3 млрд параметров, созданная Джоном Дурбином как дообучение с инструкциями на синтетических примерах Airoboros. Версия m2.0 объединяет набор данных версии 1.4.1 с данными серии 2.0 без дубликатов и категории system; данные серии 2.0 были сгенерированы GPT-4 от 14 июня 2023 года. Модель работает с текстом и предназначена для диалогов и выполнения инструкций. Модель подходит для ответов на вопросы по заданному контексту, помощи с программированием, планирования действий с инструментами и генерации структурированных ответов в JSON или YAML. Для контекстных вопросов README рекомендует явно размечать блоки входных данных и инструкций; автор также предупреждает, что модель может выдумывать ответы, если контекст не содержит нужной информации. Формат диалога использует префикс USER/ASSISTANT и системное описание помощника. Указанное в метаданных ограничение контекста — 2048 токенов. Для версии на 33 млрд параметров README сообщает о QLoRA-дообучении и исследовательском, некоммерческом назначении. Лицензия репозитория — CC BY-NC 4.0, поэтому коммерческое использование не допускается по указанным условиям.

Apodex-1.1-mini-GGUF — набор GGUF-квантизаций модели Apodex-1.1-mini, опубликованный организацией apodex; в README результаты оценки исходной модели связываются с Apodex AI. Это 35,95-миллиардная MoE-модель семейства Qwen3.5, предназначенная для исследовательской работы, анализа данных и файлов, программирования и задач с использованием инструментов. Поддерживаются английский и китайский языки, генерация текста и мультимодальный ввод изображений через отдельный vision projector. Модель сохраняет исходную MTP/NextN head, что позволяет использовать speculative decoding в llama.cpp. Доступны варианты квантизации от IQ1_M размером 8,82 ГБ до Q8_0 размером 37,8 ГБ; рекомендуемым вариантом по умолчанию указан Q4_K_M размером 21,7 ГБ. Для работы с изображениями требуется F16-проектор размером 899 МБ. README не указывает полный размер контекста, поэтому его характеристики нельзя определить по представленным данным. Модель ориентирована на локальный запуск через актуальную сборку llama.cpp и поддерживает агентские сценарии, код, работу с данными и изображениями. Сильными сторонами являются широкий выбор уровней квантизации, поддержка MoE, мультимодальности и MTP. Ограничения включают зависимость от совместимых компонентов llama.cpp и необходимость отдельного проектора для изображений; качество и производительность зависят от выбранной квантизации и доступной памяти. Лицензия — Apache-2.0.

Apriel-1.5-15b-Thinker — мультимодальная модель рассуждений из серии Apriel SLM, разработанная ServiceNow. Модель с плотной архитектурой на 15 млрд параметров принимает текст и изображения и генерирует ответы в формате диалога; её назначение включает рассуждения по тексту и изображениям, помощь с кодом, ответы на вопросы и вызов инструментов. Для обработки изображений используется архитектура LlavaForConditionalGeneration. Модель прошла продолжительное предварительное обучение на текстовых и визуальных данных, а последующее обучение с учителем выполнялось только на тексте; RL и дообучение на изображениях не применялись. Она рассчитана на общие инструкции, многошаговые задачи и агентные сценарии. Разработчики отмечают высокие результаты на ряде тестов, а также повышенный расход токенов и более долгие ответы из-за развёрнутого рассуждения по умолчанию. Лицензия — MIT. Разработчики предупреждают, что ответы могут содержать фактические ошибки и предвзятость, качество ниже на языках, представленных в обучении слабее, а в медицинских, юридических, финансовых и других критически важных сценариях требуется проверка человеком.

Arcee-Maestro-7B-Preview — языковая модель Arcee с 7,1 млрд параметров, созданная на базе DeepSeek-R1-Distill-Qwen-7B. Модель семейства Qwen2 дообучена с помощью обучения с подкреплением по алгоритму GRPO на проверенных математических задачах и примерах программирования; выпущена как предварительная версия. Модель предназначена для многошаговых рассуждений, решения математических задач и помощи в программировании. Она принимает текст и генерирует текст, поддерживает диалог и имеет интерфейс для вызова инструментов. Заявленная длина контекста — 131 072 токена. В карточке сообщается об улучшениях в математике и программировании, но количественные результаты оценок не приведены. Модель распространяется под лицензией Apache-2.0. Среди ограничений указаны возможные предвзятые или вредоносные ответы и срез знаний, не отражающий события после июня 2024 года. Поскольку это Preview-релиз, качество и стабильность могут отличаться от окончательной версии.

AriannaV4 — мультимодальная модель-ассистент, созданная SurgeFF на базе google/gemma-4-12B с объединёнными весами Aria v4. Это самостоятельная модель для локального запуска; доступны веса в формате safetensors и варианты GGUF разной точности для llama.cpp, Ollama и LM Studio. Архитектура относится к Gemma 4 Unified, размер базовой модели — 12 млрд параметров. Модель предназначена для диалогов, рассуждений, работы с текстом и кодом, математических задач, выбора инструментов, а также понимания изображений, аудио и видео. Для голосового ввода и вывода в реальном времени, генерации изображений и видео и получения эмбеддингов README описывает отдельные подключаемые компоненты: эти возможности не встроены в веса AriannaV4. Репозиторий предназначен для локального развертывания и позиционируется автором как production-ассистент. Лицензия CC BY-NC-SA 4.0 требует указания авторства, распространяет производные работы на тех же условиях и запрещает коммерческое использование.

AST-T5 — модель семейства T5, разработанная Линьюанем Гуном, Мостафа Эльхуши и Элвином Чунгом для генерации и понимания кода. Она предварительно обучена с учётом структуры кода и рассчитана на задачи, где входом служат, например, сигнатура функции или комментарий, а результатом — продолжение или преобразование кода. Модель содержит 176,9 млн параметров, использует архитектуру FairseqT5 и доступна в формате Safetensors. Это не instruct-модель: она лучше работает с конкретными подсказками, связанными с кодом, чем с общими инструкциями на естественном языке. Репозиторий распространяется по лицензии MIT.

AutoDev Coder DeepSeek 6.7B Finetunes — разговорная модель генерации текста на архитектуре Llama с 6,6 млрд параметров и контекстом до 16 384 токенов. README указывает на дообучение для AutoDev, но не содержит подробностей о сценариях и обучении. Модель предназначена для генерации текста в чате; её название указывает на применение в разработке кода и IDE-плагине. В метаданных перечислены английский и китайский языки, формат весов Safetensors и библиотека Transformers. Лицензия указана как other, поэтому условия её использования следует уточнить у автора модели.

Axiom Python 1.5B — авторегрессионная языковая модель для генерации текста, дообученная разработчиком coderian на Qwen/Qwen2.5-1.5B с помощью LoRA и SFT. Модель основана на архитектуре Qwen2ForCausalLM, содержит около 1,5 млрд параметров и рассчитана прежде всего на генерацию кода на Python и ответы в формате диалога. Она распространяется в формате safetensors и использует библиотеку Transformers; заявленное окно контекста — 131072 токена. Модель обучалась на наборах CodeAlpaca_20K и PythonCodeInstruct_18K. Лучше всего она подходит для отдельных строк и функций средней сложности; для устойчивого результата README рекомендует формат Instruction/Answer и невысокую температуру генерации. Лицензия — Apache-2.0. Из-за небольшого размера модель может ошибаться в сложных и длинных задачах, а качество на языках программирования, отличных от Python, ограничено. Обучающие последовательности имели длину до 256 токенов, поэтому согласованность при длинном контексте может ухудшаться, несмотря на заявленное контекстное окно. Сгенерированный код следует проверять перед запуском; возможны унаследованные от данных смещения и вредоносный контент.

jondurbin/bagel-8x7b-v0.2 — экспериментальный SFT-чекпойнт, созданный jondurbin на основе Mixtral-8x7B-v0.1 с помощью инструментария Bagel. Это языковая модель с архитектурой Mixtral MoE и 7,1 млрд параметров; она поддерживает контекст до 32 768 токенов и представлена в формате safetensors. Модель предназначена для диалогов и следования инструкциям, ответов на вопросы по предоставленному контексту, задач на рассуждение, математику, программирование и SQL, а также для ролевых диалогов. Для настройки использовались обучающие части разнообразных наборов данных: среди прочего, датасеты для чтения и понимания текста, общих знаний, математики, кода, чатов и ролевых сценариев. Карточка описывает модель после этапа SFT и до применения DPO; для общения предусмотрено несколько шаблонов промптов, а шаблон по умолчанию основан на Llama 2. Модель лицензирована по Apache 2.0. README называет настройку экспериментальной, поэтому качество на отдельных задачах следует проверять в целевом сценарии.

K00B404/BagOMistral_14X_Coders-ties-7B — созданная с помощью mergekit объединённая языковая модель семейства Mistral, разработанная K00B404. Веса объединены методом TIES на основе K00B404/Merged_Beowolx-CodePro_Medusa2-14X-7B-Mistral-I-v0-2 с компонентами Nexusflow/Starling-LM-7B-beta и beowolx/CodeNinja-1.0-OpenChat-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат safetensors; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате, в том числе для задач программирования, опираясь на возможности входящих в объединение моделей. Её можно применять для генерации и дополнения кода, а также для диалоговых ответов. Карточка не приводит результаты оценки качества или подробные сведения о поддерживаемых языках. Лицензия в предоставленных данных не указана.

Beyonder-4x7B-v2 — языковая модель в архитектуре Mixture of Experts (MoE), созданная mlabonne с помощью mergekit на основе четырёх моделей: OpenChat 3.5, CodeNinja, PiVoT и WizardMath. Она предназначена для диалогов и генерации текста, включая задачи программирования и математики. В модели около 7,1 млрд параметров, рекомендуемая длина контекста — 8 тысяч токенов; репозиторий содержит веса в формате safetensors. Автор сообщает, что модель показывает результаты, сопоставимые с Mixtral-8x7B-Instruct-v0.1 и сильными дообученными моделями большего размера на ряде бенчмарков. Эти оценки не гарантируют качество на конкретных пользовательских задачах. В метаданных указана лицензия other; точные условия использования следует проверять в карточке модели и лицензиях базовых моделей.

BigBang-Aquila-35B-Merged — мультимодальная модель на базе Qwen/Qwen3.6-35B-A3B, созданная объединением DARE-TIES двух специализированных моделей: BigBang-v1 для формальных рассуждений, математики, программирования и исследований, и XYZ-Aquila-mini для веб-поиска, сбора данных и вызова инструментов. Веса объединены с коэффициентами 0,55 и 0,45 соответственно; доступны файлы BF16 Safetensors и GGUF. Модель предназначена для диалогов с изображениями и агентных сценариев, сочетающих рассуждения, код, веб-поиск и инструменты. Карточка сообщает об успешном прохождении 3 из 3 сложных тестов по математике и коду, 1 из 3 по веб-сценариям и 2 из 3 в смешанных задачах; это небольшая оценка и она не гарантирует качество в других условиях. Для запуска требуются Transformers версии не ниже 5.12, а также flash-linear-attention и causal_conv1d. В чекпойнт не включена исходная MTP-голова. Лицензия — Apache-2.0.

Camelidae-8x7B — языковая модель семейства Camelidae, разработанная авторами проекта Parameter-Efficient Sparsity Crafting. Это разреженная MoE-модель для генерации текста и выполнения инструкций общего назначения; при обучении использовались QLoRA, адаптеры и эффективное преобразование плотных моделей в Mixture-of-Experts. В карточке указаны обучающие наборы для инструкций, программирования и математики. Модель содержит 6,6 млрд параметров и имеет контекстное окно 4096 токенов. Она построена на архитектуре LLaMA для причинной генерации текста и доступна в формате PyTorch через Transformers; для загрузки карточка приводит пример с trust_remote_code=True. Метаданные отмечают английский язык. Модель подходит для диалоговых ответов, математических рассуждений и помощи с кодом. README описывает результаты семейства Camelidae на тестах, но приведённая таблица относится к Camelidae-8x34B-pro, поэтому её показатели нельзя переносить на версию 8x7B. Лицензия — Apache-2.0.

Carnice-27b — дообученная и объединённая в самостоятельный чекпойнт модель kai-os на базе Qwen/Qwen3.5-27B. Это плотная авторегрессионная языковая модель с 22,3 млрд параметров, предназначенная для диалогов в стиле Hermes-Agent, рассуждений и многошаговой работы с инструментами. В README описаны сценарии работы с терминалом, файлами, браузером, репозиториями и отладкой; модель загружается как отдельный чекпойнт без исходного адаптера. Метаданные указывают контекст до 262 144 токенов и формат safetensors. Модель распространяется по лицензии Apache-2.0. Для неё пока не приложены воспроизводимые результаты бенчмарков.

shibing624/code-autocomplete-gpt2-base — модель автодополнения кода на основе GPT-2, предназначенная для плагина code-autocomplete. Она продолжает введённый код на Python, предлагая завершения строк и блоков. Модель использует архитектуру GPT2LMHeadModel и авторегрессионную генерацию текста. По метаданным, её контекст составляет 1024 токена; в карточке указан английский язык. Модель опубликована в форматах PyTorch и safetensors и распространяется по лицензии Apache-2.0. Подходит для подсказок кода при разработке на Python. Карточка не приводит оценок качества или подробностей обучающих данных; контекст ограничен 1024 токенами.

4luc/codebert-code-clone-detector — дообученная модель на базе microsoft/codebert-base, разработанная для обнаружения клонов кода. Она сопоставляет пары фрагментов кода и определяет, являются ли они клонами; модель построена на архитектуре RoBERTa и содержит 151,8 млн параметров. Максимальная длина контекста — 514 токенов. В README указаны результаты на тестовой выборке Code Clone Benchmark: точность 0,9525, precision 0,9544, recall 0,9496 и F1 0,9520. Модель подходит для поиска повторяющихся или функционально сходных фрагментов кода. Лицензия — MIT. Подробности о языках программирования, обучающих данных и ограничениях применения в карточке не раскрыты.

legraphista/codegeex4-all-9b-IMat-GGUF — это набор GGUF-версий модели THUDM/codegeex4-all-9b, подготовленный пользователем legraphista. Модель предназначена для генерации текста, включая задачи, связанные с программированием; в метаданных указаны китайский и английский языки. Исходная модель использует формат BF16, а опубликованные файлы представлены в вариантах BF16, F16 и разных уровнях квантования. Модель содержит около 9 миллиардов параметров. Доступны квантизации Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K, IQ4 и IQ3, что позволяет выбирать между качеством, размером файла и требованиями к ресурсам. Для ряда вариантов применена IMatrix-квантизация, предназначенная для снижения потерь качества при уменьшении точности. Файлы рассчитаны на использование с инструментами, поддерживающими формат GGUF, включая llama.cpp; также опубликован файл imatrix.dat. Преимуществами являются широкий выбор уровней квантования и наличие вариантов размером примерно от 4 до 10 ГБ, что облегчает локальный запуск на системах с разными ресурсами. Ограничения включают отсутствие в предоставленных данных сведений об архитектуре, размере контекста, мультимодальности, точных возможностях модели и результатах оценки качества; поэтому её следует рассматривать как текстовую модель без подтверждённой поддержки других модальностей. Лицензия обозначена как codegeex4; подробные условия доступны по ссылке на лицензию исходной модели THUDM/codegeex4-all-9b.

CodeGemma 1.1 2B — компактная языковая модель для работы с кодом, разработанная Google на основе Gemma. Это предварительно обученная декодерная модель с 2 млрд параметров, предназначенная прежде всего для быстрого автодополнения кода. Она поддерживает заполнение пропусков между префиксом и суффиксом (fill-in-the-middle) в редакторе кода; на вход также можно подавать текстовые подсказки, а на выходе получать код или текст. Модель обучалась на дополнительных данных, преимущественно на английском языке: коде из открытых репозиториев, математических наборах данных и синтетически созданном коде. Модель подходит для интеграции в IDE и помощи при написании кода. Карточка описывает CodeGemma 2B как вариант для автодополнения, а не для чата или генерации кода по естественно-языковому запросу; эти сценарии в таблице отнесены к другим вариантам семейства. Для скачивания доступны веса в формате Safetensors, библиотека — Transformers. Лицензия — Gemma, использование регулируется условиями Google для Gemma. Как и другие большие языковые модели, CodeGemma может выдавать неверный или неподходящий код; результат следует проверять. В карточке также отмечено, что ограничения наследуются от семейства Gemma.

Карточка модели unsloth/codegemma-2b на Hugging Face совпадает с карточкой unsloth/codegemma-7b-it, поэтому описание составлено по ней. unsloth/codegemma-7b-it — разговорная версия CodeGemma от Google, представленная Unsloth в виде модели для генерации текста. Репозиторий содержит плотную авторегрессионную модель Gemma с 8,2 млрд параметров, рассчитанную на диалог и дополнение текста; максимальный контекст составляет 8192 токена. В метаданных указана поддержка английского языка и формат safetensors. Модель подходит для диалоговых приложений и генерации продолжений текста, в частности в сценариях, связанных с кодом, для которых предназначено семейство CodeGemma. Карточка Unsloth описывает ноутбуки для дообучения Gemma и форматы шаблонов ChatML и Vicuna, но не приводит результатов оценки качества именно этого чекпойнта. Модель распространяется по лицензии Apache-2.0.

CodeGemma 2B — компактная языковая модель для генерации и обработки исходного кода, представленная Google и распространяемая в GGUF-квантизации пользователем bartowski. Данная версия предназначена для локального запуска через llama.cpp и поставляется в нескольких вариантах квантизации с разным соотношением качества, размера файла и требований к памяти. Модель ориентирована на задачи программирования и генерации текста; исходная модель codegemma-2b доступна на Hugging Face. В README не указаны точная архитектура, длина контекста, поддерживаемые языки программирования или естественные языки, а также мультимодальные возможности. Формат GGUF и отсутствие специального формата промпта упрощают использование в совместимых локальных инструментах. Размер файлов варьируется примерно от 0,77 до 2,66 ГБ; наиболее качественными и рекомендуемыми названы варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M. Сильная сторона модели — возможность локального запуска на устройствах с ограниченными ресурсами благодаря широкому выбору квантизаций; при этом низкие уровни квантизации заметно уступают по качеству и некоторые из них не рекомендуются. Квантизация выполнена с использованием llama.cpp и imatrix. Для доступа к исходной модели на Hugging Face требуется принять лицензию Google Gemma; применимая лицензия — Gemma.

Карточка модели GMQs/code-Llama-2-13B на Hugging Face совпадает с карточкой bugdaryan/Code-Llama-2-13B-instruct-text2sql, поэтому описание составлено по ней. Code-Llama-2-13B-instruct-text2sql — дообученная модель семейства Code Llama от bugdaryan, предназначенная прежде всего для преобразования вопросов на естественном языке в SQL-запросы с учётом схемы базы данных. В основе — авторегрессионный трансформер LlamaForCausalLM с 12,9 млрд параметров и контекстом до 16 384 токенов; README указывает на обучение с LoRA и 4-битной конфигурацией bitsandbytes. Репозиторий содержит веса PyTorch и Safetensors. Модель принимает текстовое описание схемы и вопрос, а выдаёт текст SQL. Карточка заявляет поддержку английского языка, а также возможностей генерации и дополнения кода, заполнения пропусков и диалогового режима. Эти дополнительные возможности не заменяют проверку SQL-запросов на соответствие схеме и корректность выполнения. Модель распространяется по лицензии Llama 2. Она может генерировать неточные или нежелательные ответы; перед использованием в приложениях рекомендуется проверять запросы и проводить оценку безопасности. В README назначение ограничено английским языком и условиями лицензии Code Llama и её вариантов.

Code-Llama-2-13B-instruct-text2sql — дообученная модель семейства Code Llama от bugdaryan, предназначенная прежде всего для преобразования вопросов на естественном языке в SQL-запросы с учётом схемы базы данных. В основе — авторегрессионный трансформер LlamaForCausalLM с 12,9 млрд параметров и контекстом до 16 384 токенов; README указывает на обучение с LoRA и 4-битной конфигурацией bitsandbytes. Репозиторий содержит веса PyTorch и Safetensors. Модель принимает текстовое описание схемы и вопрос, а выдаёт текст SQL. Карточка заявляет поддержку английского языка, а также возможностей генерации и дополнения кода, заполнения пропусков и диалогового режима. Эти дополнительные возможности не заменяют проверку SQL-запросов на соответствие схеме и корректность выполнения. Модель распространяется по лицензии Llama 2. Она может генерировать неточные или нежелательные ответы; перед использованием в приложениях рекомендуется проверять запросы и проводить оценку безопасности. В README назначение ограничено английским языком и условиями лицензии Code Llama и её вариантов.

CodeLlama-7B-KStack-GGUF — это локальная GGUF-версия 7-миллиардной языковой модели для генерации и автодополнения программного кода. Модель разработана JetBrains на базе CodeLlama-7B и дообучена на очищенном и отфильтрованном датасете KStack. Квантизация выполнена bartowski с использованием llama.cpp. Модель предназначена исключительно для работы с кодом, прежде всего для генерации Kotlin-кода и использования в качестве помощника в IDE. Модель поддерживает сценарии обычного продолжения кода и FIM-дополнение по префиксу и суффиксу с использованием специальных токенов PRE, SUF и MID; готового шаблона запросов и системного промпта нет. Заявленный результат на MultiPL-HumanEval для Kotlin составляет 29,19% по метрике pass@1. Сильная сторона модели — специализация на Kotlin и возможность локального запуска в формате GGUF, однако она не предназначена для универсального диалога или задач вне программирования, а README не содержит сведений о размере контекста, поддерживаемых языках помимо Kotlin и конкретных вариантах квантизации. Модель распространяется по лицензии Apache-2.0.

TULLUS публикует конверсию модели CodeParrot Small Multi в формате Safetensors с точностью F32. Это компактная авторегрессионная языковая модель GPT-2, предназначенная для продолжения кода по заданному префиксу, а не для диалогов и выполнения инструкций. По карточке, исходная модель обучалась на очищенном коде GitHub и охватывает Java, JavaScript, PHP, Python, C#, C++, Go, Ruby и TypeScript. Контекст составляет 1024 токена. Конверсия сохраняет обученные значения весов исходного чекпойнта; README сообщает о точном совпадении тензоров и логитов на трёх проверенных запросах. Модель может предлагать продолжения функций и файлов, но для этого конкретного мультиязычного чекпойнта численные результаты HumanEval не опубликованы. Это устаревшая компактная базовая модель для экспериментов, а не готовый помощник по программированию; сгенерированный код нужно проверять и тестировать. Лицензия — Apache-2.0.

davanstrien выпустил текстовую Sentence Transformer-модель, дообученную на базе microsoft/mpnet-base для сравнения сходства предложений и фрагментов кода. Она преобразует текст в плотные векторы размерностью 768 и оценивает сходство по косинусной мере. Максимальная длина входной последовательности — 512 токенов; модель рассчитана на английский язык и распространяется по лицензии Apache-2.0. Модель предназначена для поиска семантически похожего кода и текста, поиска перефразировок, кластеризации, классификации и семантического поиска. В README приведена оценка cosine_accuracy 0,934 на наборе code-similarity-dev. Это результат конкретной оценки, а не гарантия качества на других данных.

ClaudioItaly/Coder — языковая модель для генерации кода, созданная слиянием весов через SLERP с помощью mergekit на основе Qwen/Qwen2.5-Coder-7B-Instruct. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 и формат safetensors; для работы с диалогами предусмотрен интерфейс чата. Метаданные указывают контекст длиной 32 768 токенов. Модель предназначена для генерации кода и диалоговых сценариев, связанных с программированием. Базовая Qwen2.5-Coder-7B-Instruct ориентирована на генерацию, анализ и исправление кода; карточка этой модели подтверждает слияние с ней, но не приводит отдельных результатов оценки или подробностей поведения получившейся модели. Лицензия в предоставленных данных не указана.