II.2Создание и понимание программного кода

CodeLlama 34B Instruct — языковая модель для генерации и объяснения программного кода, разработанная Meta. Представлена в репозитории TheBloke в формате GGUF как квантизированная версия исходной модели codellama/CodeLlama-34b-instruct-hf. Модель предназначена для решения задач программирования по текстовому описанию, создания кода с учетом ограничений и тестовых примеров, а также для локального использования через совместимые приложения и библиотеки. Модель построена на архитектуре Llama и содержит 34 миллиарда параметров. Она работает с текстовой модальностью и ориентирована на код; конкретный набор поддерживаемых языков программирования и размер контекста в README не указаны. Формат GGUF поддерживает метаданные и специальные токены, а доступные варианты используют квантизацию от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством генерации. Сильными сторонами являются специализация на программировании, возможность запуска на CPU и GPU, а также совместимость с llama.cpp, text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и другими инструментами. К ограничениям относятся потенциальная потеря качества из-за квантизации, высокие требования к ресурсам для 34-миллиардной модели и отсутствие в предоставленных данных подробных оценок качества, контекстного окна и перечня языков. Указана лицензия llama2; за квантизацию и публикацию GGUF-версии отвечает TheBloke.

CodeLlama-34b-Instruct-hf — языковая модель Meta из семейства Code Llama, представленная в формате Transformers. Это авторегрессионная плотная модель на архитектуре Transformer с 33,5 млрд параметров и контекстом до 16 384 токенов. Модель предназначена для генерации и понимания кода, завершения фрагментов кода и выполнения инструкций в формате чат-ассистента. Она принимает текст и генерирует текст; README указывает английский как целевой естественный язык, а также работу с языками программирования. Модель не заявлена как специализированная на Python. Модель обучена на данных семейства Llama 2 с дополнительными весами и настройкой для следования инструкциям. Она может выдавать неточные или нежелательные ответы; перед внедрением рекомендуется проверять её поведение для конкретных сценариев. Использование регулируется лицензией Meta Llama 2.

Code Llama 34B Instruct — авторегрессионная языковая модель Meta на основе оптимизированного Transformer, предназначенная для генерации и понимания кода. Это версия Instruct с 34 млрд параметров в формате Transformers; она поддерживает дополнение кода и диалоговое выполнение инструкций. Модель принимает текст и генерирует текст, включая код, и рассчитана на применение в помощниках-разработчика и инструментах генерации кода. Модель предназначена для работы на английском языке и с языками программирования. Её можно применять для написания фрагментов кода, ответов на вопросы по программированию и помощи при разработке. Репозиторий содержит веса PyTorch и Safetensors. Использование регулируется лицензией Meta Llama 2; условия лицензии следует учитывать при коммерческом или исследовательском использовании. Модель обучалась на статическом офлайн-наборе данных. Возможны неточные или нежелательные ответы; перед внедрением требуется оценить её поведение в целевом сценарии. README указывает, что тестирование проводилось на английском языке, а использование на других естественных языках не входит в заявленную область применения.

Code-Llama-3-8B-GGUF — это набор квантизованных версий языковой модели Code-Llama-3-8B в формате GGUF, подготовленный пользователем bartowski с использованием llama.cpp и метода imatrix. Исходная модель размещена на Hugging Face организацией или автором ajibawa-2023. Модель предназначена прежде всего для генерации, дополнения и объяснения программного кода, а также для решения задач по программированию и математических задачах в диалоговом формате. Модель содержит 8 миллиардов параметров и работает в текстовой модальности. В README указан английский язык, а среди целевых языков программирования перечислены Python, C++, PHP, JavaScript, Java, Rust, Ruby, SQL, MySQL, R и Julia. Доступно множество вариантов квантизации от Q8_0 до IQ1_M, что позволяет выбирать баланс между качеством и требованиями к памяти: рекомендуются, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и некоторые варианты IQ4. Более компактные варианты экономят память, но снижают качество и могут быть непригодны для требовательных задач. Сильными сторонами являются специализация на коде, широкий выбор размеров файлов и возможность локального запуска через совместимый стек llama.cpp. Ограничения включают потери качества при низкой разрядности квантизации; сведения о размере контекстного окна, точной архитектуре и поддержке других естественных языков в README не указаны. Модель распространяется по лицензии llama3.

TheBloke/CodeLlama-70B-Instruct-GGUF — это квантизированная версия CodeLlama 70B Instruct, разработанной Code Llama и преобразованной TheBloke в формат GGUF. Модель предназначена для генерации и понимания программного кода, а также для диалоговых сценариев с инструкциями. Она относится к семейству Llama и доступна в вариантах квантизации от 2 до 8 бит для запуска на CPU и GPU. Модель содержит около 70 миллиардов параметров и работает как текстовая модель генерации с поддержкой входных инструкций и запросов на естественном языке и коде. Формат GGUF совместим с llama.cpp и рядом локальных интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Разные уровни квантизации позволяют выбирать компромисс между требованиями к памяти, скоростью и сохранением качества, однако более сильная квантизация может снижать точность ответов. В README не указаны поддерживаемые естественные языки и размер контекстного окна. Модель распространяется по лицензии Llama 2. Для работы требуется совместимый рантайм, например llama.cpp, а конкретные требования к ресурсам зависят от выбранного варианта квантизации.

CodeLlama 7B GGUF — это квантизированные файлы модели CodeLlama 7B, разработанной Meta и подготовленной в формате GGUF пользователем TheBloke. Модель относится к семейству Llama и предназначена для генерации и обработки программного кода, а также для задач текстовой генерации, связанных с разработкой программного обеспечения. Модель содержит около 7 миллиардов параметров и представлена в формате GGUFv2, совместимом с llama.cpp и рядом сторонних интерфейсов и библиотек. Доступны варианты квантизации от 2 до 8 бит, рассчитанные на запуск с использованием CPU и GPU; выбор варианта позволяет находить компромисс между размером файлов, требованиями к оперативной памяти, скоростью и качеством вывода. В README не указаны точное максимальное окно контекста, поддерживаемые естественные языки и дополнительные модальности, поэтому модель следует рассматривать прежде всего как кодовую текстовую модель. К сильным сторонам относятся возможность локального запуска на широком спектре оборудования, несколько уровней квантизации и совместимость с популярными инструментами, включая llama.cpp, LM Studio, text-generation-webui и llama-cpp-python. Ограничения связаны с потерями качества, возможными при низкобитной квантизации, а также с тем, что конкретные требования к памяти и производительность зависят от выбранного файла и оборудования. Модель распространяется по лицензии Llama 2; условия использования следует учитывать согласно этой лицензии.

CodeLlama-7b-hf — базовая генеративная модель Meta для синтеза и понимания программного кода. Это версия семейства Code Llama с 7 млрд параметров в формате Transformers; архитектура — авторегрессионный оптимизированный трансформер семейства Llama. Модель принимает текст и генерирует текст, поддерживает контекст до 16 384 токенов. Модель предназначена для автодополнения кода и infilling — заполнения пропусков в коде. README отмечает, что эта базовая версия не предназначена для инструкционного диалога; для следования инструкциям в семействе есть отдельный вариант Instruct. Модель рассчитана на английский язык и языки программирования. Лицензия — пользовательская лицензия Meta для Llama 2, условия которой следует учитывать при использовании.

NousResearch/CodeLlama-7b-hf — версия базовой модели Code Llama, разработанной Meta и опубликованной NousResearch в формате Hugging Face. Это авторегрессионная языковая модель на основе оптимизированной архитектуры Transformer с 6,6 млрд параметров, предназначенная для генерации и понимания программного кода. Модель принимает текст и генерирует текст, поддерживает контекст до 16 384 токенов и используется через Transformers и PyTorch. Модель предназначена для синтеза, дополнения, объяснения и анализа кода, а также может адаптироваться к различным задачам программирования. Она ориентирована на английский язык и релевантные языки программирования; версия является базовой, а не специализированной instruct-моделью. Доступна по лицензии Llama 2 с условиями Meta и ограничениями Acceptable Use Policy. Модель статична и обучена на офлайн-данных. Она может генерировать неточный, небезопасный или нежелательный код, поэтому результаты требуют проверки, тестирования и настройки под конкретное приложение. Использование в языках, отличных от английского, ограничено условиями модели.

CodeLlama 7B Python GGUF — это квантизированная версия языковой модели CodeLlama 7B Python, разработанной Meta и преобразованной в формат GGUF пользователем TheBloke. Модель предназначена прежде всего для генерации кода, решения задач программирования и работы с запросами, требующими написания Python-кода. Это текстовая модель архитектуры Llama с 7 миллиардами параметров; заявленный язык — code, а поддерживаемые модальности ограничены текстом и кодом. Размер контекста в представленных данных не указан. Формат GGUF ориентирован на локальный запуск через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и другие. Доступны варианты квантизации с разной разрядностью, что позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти при CPU- и GPU-инференсе. Ограничения включают возможное снижение качества из-за квантизации, отсутствие в README данных о результатах тестирования и точных требованиях к ресурсам. Модель распространяется по лицензии Llama 2.

Bud Code Millenials 34B — языковая модель для генерации программного кода, разработанная Bud Ecosystem и дообученная для задач программирования. Это плотная авторегрессионная модель семейства Llama с 33,5 млрд параметров; репозиторий содержит веса в формате safetensors, а максимальная длина контекста составляет 16 384 токена. Модель предназначена для генерации кода по текстовому запросу и помощи в программировании. В README указаны результаты HumanEval 80,48 pass@1 и MBPP 74,68, полученные авторами; эти показатели зависят от методики оценки и не гарантируют такой же результат в пользовательских сценариях. Модель может ошибаться и хуже справляться с задачами, не связанными с кодированием. Использование регулируется лицензией Llama 2.

CodeShell-7B-Chat — чат-модель для программирования, разработанная Knowledge Computing Lab Пекинского университета совместно с AI-командой Sichuan Tianfu Bank. Это плотная авторегрессионная модель семейства CodeShell на 7 млрд параметров, построенная на архитектуре GPT-2 с Grouped-Query Attention и позиционным кодированием RoPE. По данным карточки, базовую модель CodeShell обучали на 500 млрд токенов; контекст составляет около 8 тысяч токенов. Репозиторий содержит веса в формате PyTorch. Модель предназначена для генерации и обсуждения кода, а также для сценариев помощника разработчика, включая работу в IDE. В карточке сообщается о результатах на HumanEval и MBPP, но эти оценки не гарантируют такого же качества на других языках программирования и задачах. Данные указывают на поддержку китайского и английского языков; отдельные ограничения качества и условия лицензии в предоставленной карточке не описаны.

CodeShell-7B-Chat-int4 — квантизированная до Int4 чат-версия многоязычной модели для работы с программным кодом. Модель разработана лабораторией вычисления знаний Пекинского университета совместно с AI-командой Sichuan Tianfu Bank. Она предназначена для генерации кода, разработки программ, создания тестов, обнаружения и исправления дефектов, а также использования в качестве локального помощника разработчика через плагины для VS Code и JetBrains. Модель содержит 7 миллиардов параметров и обучалась на 500 миллиардах токенов. В основе архитектуры используется GPT-2 с Grouped-Query Attention и относительным позиционным кодированием RoPE. Конфигурация включает 42 слоя, размерность скрытого представления 4096, 32 головы внимания, 8 групп запросов и словарь из 70144 токенов. Заявленная длина контекста составляет 8194 токена, а параметр последовательности указан как 8192. Поддерживаются китайский и английский языки; модель ориентирована на несколько языков программирования. Сильными сторонами заявлены высокие результаты для моделей данного размера на бенчмарках HumanEval и MBPP, а также возможность лёгкого локального развёртывания с использованием C++. В опубликованных результатах модель превосходит CodeLlama-7B и StarCoder-7B в большинстве приведённых языковых тестов, но уступает им в отдельных тестах для Swift, D, Julia, Lua и Rust. Ограничения включают возможные ошибки и риски некорректного или небезопасного использования сгенерированного кода; README также содержит предупреждение о необходимости соблюдать требования безопасности, законности и соответствия нормативным требованиям. Лицензия в предоставленных данных не указана.

Codestral-22B-v0.1-IMat-GGUF — GGUF-квантизированная версия Codestral-22B-v0.1, разработанного Mistral AI и подготовленная legraphista. Модель предназначена для генерации и работы с программным кодом, включая сценарии автодополнения и Fill In the Middle (FIM); в этой сборке исправлены отсутствующие FIM-токены. Указанный pipeline относится к генерации текста, а заявленный язык — code. Модель основана на версии размером 22B параметров с исходным форматом BF16 и преобразована с использованием llama.cpp. Доступны варианты GGUF от BF16 и FP16 до Q2_K, включая Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ-квантизации. Для ряда вариантов применена IMatrix-квантизация, призванная улучшить сохранение качества при уменьшении размера; размеры файлов варьируются примерно от 8,27 до 44,5 ГБ. Формат GGUF подходит для запуска в совместимом программном обеспечении, включая llama.cpp. Сильными сторонами являются специализация на коде, поддержка FIM и широкий выбор уровней квантизации для компромисса между качеством и требованиями к памяти. Ограничения включают отсутствие в предоставленных данных сведений о конкретной архитектуре, размере контекста, перечне естественных языков, результатах бенчмарков и характеристиках производительности; качество также зависит от выбранного варианта квантизации и оборудования. Лицензия указана как MNPL-0.1; условия следует уточнять в тексте лицензии Mistral AI.

CodeT5 Base — разработанная Salesforce предварительно обученная модель кодирования-декодирования на архитектуре T5, представленная в статье «CodeT5: Identifier-aware Unified Pre-trained Encoder-Decoder Models for Code Understanding and Generation». Модель содержит 123,7 млн параметров, использует кодо-ориентированный BPE-токенизатор и имеет контекст длиной 512 токенов. Она обучена на CodeSearchNet и дополнительных наборах кода C/CSharp: всего около 8,35 млн примеров. Модель предназначена для понимания и генерации кода, включая суммаризацию, генерацию, перевод и исправление кода, а также обнаружение дефектов и поиск клонов. Это базовый предварительно обученный чекпойнт: для целевых задач его обычно дообучают. Модель работает с текстовым представлением исходного кода и комментариев; в README отдельно отмечена задача восстановления замаскированных фрагментов. Лицензия репозитория — Apache-2.0. Авторы позиционируют выпуск как исследовательский и рекомендуют оценивать точность и безопасность перед внедрением.

Salesforce CodeT5+ 220M — модель семейства CodeT5+ для понимания и генерации кода, разработанная Salesforce Research. Это плотная encoder-decoder-модель на архитектуре T5 с 123,7 млн параметров, доступная в формате PyTorch; она использует токенизатор оригинального CodeT5. Модель обучена на очищенном наборе кода GitHub с разрешительными лицензиями и рассчитана на работу с кодом на C, C++, C#, Go, Java, JavaScript, PHP, Python и Ruby. Модель подходит для генерации кода по текстовому запросу, дополнения кода, поиска соответствий между текстом и кодом и других задач понимания кода. В README указано контекстное окно 512 токенов. Карточка описывает семейство как гибкое по режимам работы, но конкретный чекпойнт представлен классом T5ForConditionalGeneration. Лицензия — BSD-3-Clause. Разработчики отмечают, что модель не оценивалась для всех сценариев применения и рекомендуют проверять точность и безопасность перед внедрением.

Salesforce/codet5p-770m-py — модель CodeT5+, разработанная Salesforce Research для понимания и генерации программного кода. Это плотная модель семейства T5 с архитектурой encoder-decoder и 385,2 млн параметров; карточка описывает семейство как способное работать в режимах encoder-only, decoder-only и encoder-decoder. Модель загружает через T5ForConditionalGeneration и использует токенизатор исходного CodeT5. Контекст составляет 512 токенов. Чекпойнт предварительно обучен на разрешительном подмножестве GitHub Code и ориентирован на код на C, C++, C#, Go, Java, JavaScript, PHP, Python и Ruby. Он подходит для генерации кода по текстовому описанию, дополнения кода, поиска соответствия между текстом и кодом и других задач понимания кода. В zero-shot тесте HumanEval показал 15,5% pass@1. Лицензия — BSD-3-Clause. Разработчики позиционируют выпуск как исследовательский и рекомендуют проверять точность, безопасность и справедливость перед внедрением; качество для конкретных прикладных сценариев требует отдельной оценки.

Cogito v2 preview 405B — инструкция-донастроенная плотная языковая модель семейства Llama, разработанная Deep Cogito на базе Meta Llama 3.1 405B. Она поддерживает обычный режим ответа и режим рассуждения с самопроверкой; для включения расширенного мышления требуется соответствующая настройка шаблона чата или системная инструкция. Модель оптимизирована для программирования, STEM-задач, следования инструкциям и диалоговой помощи, а также поддерживает вызов инструментов. Модель содержит 403,7 млрд параметров, работает с текстом и имеет контекст до 131 072 токенов. По заявлению разработчиков, обучение охватывало более 30 языков. Для весов используется формат Safetensors, а запуск описан через Transformers. Модель распространяется по лицензии Llama 3.1, которая допускает коммерческое использование на её условиях.

CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.

Карточка модели TechxGenus/CursorCore-DS-1.3B-LC на Hugging Face совпадает с карточкой TechxGenus/CursorCore-DS-1.3B, поэтому описание составлено по ней. CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.

Карточка модели TechxGenus/CursorCore-DS-1.3B-SR на Hugging Face совпадает с карточкой TechxGenus/CursorCore-DS-1.3B, поэтому описание составлено по ней. CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.

Карточка модели TechxGenus/CursorCore-QW2.5-1.5B-SR на Hugging Face совпадает с карточкой TechxGenus/CursorCore-DS-1.3B, поэтому описание составлено по ней. CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.

stojchet/d5 — дообученная модель на 1,3 млрд параметров на основе deepseek-ai/deepseek-coder-1.3b-base, обученная на датасете generator. Она использует плотную архитектуру семейства Llama и предназначена для генерации и продолжения кода. Модель принимает текстовые запросы и выдаёт текст, включая фрагменты кода; контекст составляет до 16 384 токенов. Модель подходит для автодополнения кода и генерации кода по текстовому описанию. Репозиторий содержит веса в формате safetensors. Лицензия указана как other, поэтому конкретные условия использования следует проверять в карточке и сопутствующих документах модели.

usermma/Darwin-28B-Coder-mlx-fp16 — версия модели Darwin-28B-Coder в формате MLX, подготовленная для запуска на устройствах Apple с MLX. Исходная модель FINAL-Bench/Darwin-28B-Coder относится к семейству Qwen 3.5 и предназначена для генерации кода и диалогового взаимодействия; в каталожных метаданных также указана поддержка работы с кодом. Модель принимает текст и генерирует текст, в частности программный код и ответы в диалоге. В карточке указана конвертация с помощью mlx-lm 0.31.2; репозиторий использует формат safetensors, а лицензия — Apache-2.0. Сведений о числе параметров и длине контекста в предоставленных данных нет.

Intel опубликовала версию DeepSeek-Coder-1.3B-Base, преобразованную в формат OpenVINO IR и оптимизированную с помощью Optimum CLI с INT8-квантованием весов. Это плотная авторегрессионная модель семейства LLaMA с 1,3 млрд параметров и контекстом 16 384 токена, предназначенная для генерации и дополнения кода. Она обучена на корпусе кода уровня проектов и поддерживает заполнение пропусков в коде, завершение фрагментов и дополнение с учётом репозитория; в карточке указано применение для автодополнения кода в Visual Studio Code через расширение OpenVINO Code Completion. Основной язык — английский. Лицензия — MIT с дополнительными ограничениями использования, перечисленными в карточке исходной модели; перед внедрением следует свериться с LICENSE-MODEL.

Deepseek Coder 33B Instruct GPTQ — квантизированная версия языковой модели DeepSeek Coder 33B Instruct, разработанная DeepSeek и подготовленная TheBloke. Модель ориентирована на задачи программирования и компьютерных наук: генерацию, объяснение и обсуждение программного кода в формате инструкций. Согласно шаблону запросов, она предназначена прежде всего для ответов на вопросы, связанные с computer science, и может отказываться от политически чувствительных, связанных с безопасностью и конфиденциальностью, а также других вопросов вне этой области. Модель содержит 33 млрд параметров и использует архитектуру DeepSeek; README не уточняет поддерживаемые языки программирования, естественные языки, максимальный контекст и набор доступных модальностей. Репозиторий включает GPTQ-файлы с несколькими вариантами квантования, отличающимися разрядностью и параметрами group size, act order и другими настройками. Квантование позволяет адаптировать модель к различным аппаратным ограничениям, но может снижать точность по сравнению с исходной неквантизированной fp16-версией. Модель предназначена для локального GPU-инференса и совместима, в частности, с text-generation-webui, KoboldAI United, LoLLMS Web UI и Hugging Face Text Generation Inference. Указана лицензия DeepSeek с типом other и ссылкой на файл LICENSE; конкретные условия README не раскрывает, поэтому перед использованием необходимо ознакомиться с лицензией репозитория.

deepseek-ai/deepseek-coder-5.7bmqa-base — базовая языковая модель для кода от DeepSeek. Это плотная архитектура Llama с Multi Query Attention и 5,6 млрд параметров; модель обучена с нуля на 2 трлн токенов, состоящих из кода и естественного языка. В метаданных указано окно контекста 16 384 токена. Модель предназначена для генерации и дополнения кода, вставки пропущенных фрагментов и работы с кодом на уровне проекта или репозитория. Обучение включало задачу fill-in-the-blank и данные на английском и китайском языках; карточка описывает результаты на нескольких бенчмарках генерации кода. Это базовая, а не чат-модель, поэтому для диалоговых сценариев может потребоваться дополнительная настройка. Веса опубликованы в формате PyTorch; лицензия обозначена как other, конкретные условия следует проверить в репозитории.

Deepseek Coder 6.7B Instruct — языковая модель для генерации и обработки программного кода, разработанная DeepSeek и представленная в GGUF-квантизованном формате компанией Second State Inc. Модель основана на deepseek-ai/deepseek-coder-6.7b-instruct и предназначена для работы с инструкциями, ответами на вопросы и задачами программирования в локальных приложениях и сервисах, включая LlamaEdge. Модель содержит 6,7 млрд параметров; в README указана архитектура DeepSeek и контекстное окно 4096 токенов. Поддерживаются различные варианты квантизации от 2 до 8 бит, размером примерно от 2,53 до 7,16 ГБ. Варианты Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые благодаря балансу размера и качества. README не содержит точного перечня поддерживаемых языков программирования или естественных языков и не описывает мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Сильными сторонами являются адаптация к инструкциям, ориентация на код и возможность запуска в средах с ограниченными ресурсами за счёт квантизации. Ограничения включают контекст 4096 токенов и неизбежную потерю качества у наиболее компактных вариантов, особенно Q2_K и некоторых Q3/Q4-конфигураций. Для запуска через LlamaEdge требуется версия 0.2.8 или новее и соответствующий prompt template. Лицензия указана как deepseek с обозначением other; дополнительные условия должны быть проверены в файле LICENSE.

bartowski/DeepSeek-Coder-V2-Instruct-0724-GGUF — набор GGUF-квантизаций модели DeepSeek-Coder-V2-Instruct-0724, разработанной deepseek-ai и квантизированной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель относится к классу генеративных text-generation-моделей и предназначена прежде всего для работы с программным кодом и инструкциями, включая локальный запуск через llama.cpp или LM Studio. Доступны варианты квантизации от Q8_0 до IQ1_M, размером примерно от 52,68 до 250,62 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее качество, но требуют больше оперативной или видеопамяти; в README рекомендуются Q6_K, Q5_K_M, Q4_K_M и IQ4_XS. Для отдельных вариантов эмбеддинги и выходные веса сохраняются в формате Q8_0, что может влиять на качество. Указаны специальный формат prompt и необходимость учитывать его при интеграции. В README не приведены точные сведения об архитектуре исходной модели, числе параметров, максимальном контексте, поддерживаемых языках и мультимодальности. Модель распространяется по лицензии deepseek-license; подробные условия находятся в файле LICENSE.

bartowski/DeepSeek-Coder-V2-Instruct-GGUF — это набор квантованных версий модели DeepSeek-Coder-V2-Instruct, разработанной DeepSeek и преобразованной bartowski в формат GGUF для запуска через llama.cpp и совместимые инструменты. Модель предназначена прежде всего для генерации текста и работы с программным кодом в диалоговом формате: написания, дополнения и объяснения кода, а также решения связанных с программированием задач. В набор входят варианты квантования Q4_K_M, Q3_K_XL, Q3_K_M, Q2_K_L, Q2_K, IQ2_XS и IQ1_M размером примерно от 52,7 до 142,45 ГБ. Квантование выполнено с использованием imatrix и llama.cpp. Версия Q4_K_M отмечена как рекомендуемая благодаря балансу качества и размера; варианты с более сильным сжатием требуют меньше памяти, но обеспечивают более низкое качество, а IQ1_M обозначена как крайне низкокачественная и нерекомендуемая. Точные архитектурные характеристики, число параметров, поддерживаемые языки и размер контекста в README не указаны. Модель подходит для локального запуска при наличии значительных ресурсов RAM и, при необходимости, VRAM; выбор файла зависит от доступной памяти и используемого backend. Поддерживаются K- и I-кванты, при этом совместимость и производительность могут различаться для CPU, Apple Metal, NVIDIA cuBLAS, AMD rocBLAS и Vulkan. Модель распространяется по лицензии DeepSeek License; в карточке указано обозначение лицензии и ссылка на файл LICENSE.

DeepSeek-Coder-V2-Lite-Base — базовая модель для генерации кода от DeepSeek. Она создана продолжением предобучения промежуточного чекпойнта DeepSeek-V2 на дополнительных 6 триллионах токенов. Модель использует архитектуру Mixture-of-Experts семейства DeepSeek-V2: в репозитории каталога указано 2,5 млрд параметров, а карточка семейства указывает для Lite-версии 16 млрд общих и 2,4 млрд активных параметров. Контекст модели по метаданным — 163 840 токенов. Модель предназначена для генерации и продолжения кода, вставки фрагментов кода, а также задач программирования и математических рассуждений. Семейство поддерживает 338 языков программирования; естественные языки в карточке не перечислены. К сильным сторонам относятся большой контекст и специализация на коде при сравнительно небольшом числе активных параметров. Это базовая, а не instruct-версия, поэтому её поведение в диалоге и следование инструкциям могут быть ограничены. Для локального инференса в BF16 README приводит требование 8 GPU по 80 ГБ. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с лицензией в репозитории.