II.7DevOps, облако и эксплуатация IT-систем
В разделе собраны самостоятельные задачи, где AI помогает развёртывать, наблюдать и оптимизировать цифровые системы и облачную инфраструктуру. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
7 196 моделейKalki 1.5 — плотная по маршрутизации экспертная модель семейства Kalki от Upmarking, предназначенная для многошаговой разработки программного обеспечения и агентных сценариев с использованием инструментов. В README заявлены архитектура Mixture-of-Experts с MLA, 1 трлн параметров и активация 32 млрд параметров на токен. Для анализа интерфейсов и визуальной отладки предусмотрен визуальный энкодер UpmarkViT; заявлена поддержка контекста до 262 144 токенов. Модель рассчитана на автономную навигацию по инструментам, редактирование файлов, запросы к PostgreSQL, отладку и другие длительные инженерные задачи. README также заявляет примерно на 30% меньше токенов рассуждения по сравнению с Kalki-0.6 и поддержку нативной квантизации INT4. Метаданные указывают задачи image-text-to-text и text-generation; в каталоге есть чат-возможность. Модель распространяется по лицензии Apache-2.0, а README предлагает доступ через API Upmarking с совместимостью с SDK OpenAI и Anthropic.
Laguna-S-2.1-JANG_4M-CRACK — текстовая MoE-модель, подготовленная dealignai на основе poolside/Laguna-S-2.1 для агентного программирования, рассуждений и вызова инструментов. Веса подвергнуты CRACK-abliteration, удаляющей поведение отказа, и смешанной низкоразрядной квантизации JANG для MLX на Apple Silicon. Метаданные указывают 6,8 млрд параметров, тогда как README описывает исходную Laguna-S-2.1 как модель на 118 млрд параметров; размер активной части MoE отдельно не уточнён. Модель принимает текст и генерирует текст. В README заявлены режимы рассуждения и прямых ответов, сохранённый интерфейс вызова инструментов и контекст 262 тыс. токенов; метаданные каталога указывают нативный контекст 1 048 576 токенов. Предназначена прежде всего для агентных задач разработки и работы с инструментами. README приводит результаты MMLU и HarmBench, полученные через vMLX, но они не гарантируют качество на других задачах или средах. Модель рассчитана на запуск через vMLX либо совместимую среду MLX с поддержкой Laguna; сборка JANG занимает около 63 ГБ и ориентирована на Apple Silicon. Указана лицензия «other», поэтому конкретные условия использования следует сверять с карточкой модели. README сообщает об удалении отказов безопасности и заявляет, что модель будет выполнять запросы разных категорий; это ограничивает её безопасное применение.
Laguna-XS-2.1-JANG_6M-CRACK — текстовая модель dealignai на архитектуре Laguna с Mixture-of-Experts, полученная на основе poolside/Laguna-XS-2.1. Модель предназначена прежде всего для агентного программирования, рассуждений и вызова инструментов; поддерживает режимы с включённым и выключенным пошаговым рассуждением и контекст до 262 144 токенов. Модель представляет собой дообученную и квантизированную версию базовой модели. README описывает исходную Laguna-XS 2.1 как модель на 33 млрд параметров с примерно 3 млрд активных параметров; метаданные репозитория указывают 2,6 млрд параметров. JANG_6M — смешанная по точности аффинная квантизация для MLX и Apple Silicon, с файлами safetensors. Для генерации автор рекомендует явно задавать temperature=1.0, top_p=1.0 и top_k=20, поскольку некоторые среды запуска игнорируют конфигурацию модели. В README приведены результаты MMLU 73,4% и соответствие запросам в HarmBench 99,4%; это результаты оценки автором через vMLX, а не независимая гарантия качества. Автор заявляет, что модель рассчитана на работу через vMLX или совместимую среду MLX. Модель текстовая и ориентирована на английский язык. Её отказное поведение намеренно удалено на уровне весов, поэтому она может выполнять запросы, от которых обычная модель отказалась бы; это существенное ограничение с точки зрения безопасного применения. Лицензия указана как other, а README сообщает о бесплатном выпуске, но не содержит точных условий лицензии.
Llama-3.1-Nemotron-Ultra-253B-CPT-v1 — базовая языковая модель NVIDIA, производная от Meta Llama-3.1-405B-Instruct и предназначенная для дальнейшей адаптации под конкретные приложения и предметные области. Это плотный декодерный Transformer с нестандартными блоками, выбранными методом Neural Architecture Search: в части блоков пропущено или заменено внимание, а слои FFN имеют разные пропорции и могут объединяться. Модель прошла дистилляцию и продолжительное предобучение; в README указано 253 млрд параметров, тогда как метаданные Hugging Face указывают 697,9 млрд. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и рассчитана прежде всего на английский язык и задачи с кодом. NAS-архитектура уменьшает требования к памяти и повышает пропускную способность и задержку относительно родительской модели; README сообщает, что для инференса модель помещается на одном узле с 8 H100. Она сохраняет часть возможностей следования инструкциям родительской модели, но заявлена прежде всего как основа для дообучения, а не как специализированный чат- или reasoning-чекпойнт. NVIDIA заявляет готовность к коммерческому использованию. В метаданных лицензия обозначена как other; перед применением следует проверить условия лицензии и использования NVIDIA. Крупный размер модели требует мощной вычислительной инфраструктуры; возможности на русском языке в карточке не заявлены.
LLaMA-Pro-8B — плотная авторегрессионная языковая модель семейства LLaMA, разработанная лабораторией Tencent ARC. Она расширяет LLaMA2-7B дополнительными Transformer-блоками и дообучена на корпусах кода и математики общим объёмом 80 млрд токенов; размер модели в метаданных указан как 8,2 млрд параметров. Модель предназначена для генерации текста и сочетания общих языковых навыков со знаниями программирования и математики. Модель подходит для генерации и продолжения текста, помощи с кодом, решения математических задач и сценариев, где требуется работать с естественным и программным языком. Указанное в метаданных контекстное окно — 4096 токенов. Карточка приводит результаты сравнительных бенчмарков и отмечает возможные трудности на узкоспециализированных задачах, а также риск предвзятости. Репозиторий содержит веса PyTorch в формате Safetensors; лицензия — Llama 2 Community License.
MiniCPM5-2B-PCD — дообученная компактная языковая модель семейства MiniCPM5, основанная на openbmb/MiniCPM5-2B. Это плотная причинная Transformer-модель с архитектурой LlamaForCausalLM и примерно 2,2 млрд параметров, рассчитанная на локальный запуск на устройствах с ограниченными ресурсами. Модель поддерживает контекст до 131 072 токенов и генерирует текст; в карточке заявлены сценарии чата, вызова инструментов и параллельного constrained decoding. Модель предназначена для локальных ассистентов и агентных сценариев, включая программирование, математику, работу с длинным контекстом и выполнение задач с инструментами. В README заявлены сильные результаты относительно моделей сопоставимого размера, особенно в коде, математике, длинном контексте и использовании инструментов. Указанные языки — английский и китайский; сведения о поддержке русского не приведены. Для запуска описаны Transformers и vLLM, в форматах BF16/FP16, с использованием GPU или CPU в зависимости от backend. Модель распространяется по лицензии Apache-2.0. Её ответы могут быть неточными, предвзятыми или оскорбительными; результаты по чувствительным темам не являются профессиональной консультацией.
Карточка модели nvcky/MiniFABLECPM5-Thinking на Hugging Face совпадает с карточкой GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-Thinking, поэтому описание составлено по ней. MiniCPM5-1B-Claude-Opus-Fable5-Thinking — компактная языковая модель, созданная дообучением openbmb/MiniCPM5-1B на данных Fable 5. Она предназначена для локального диалога, генерации и отладки кода, выполнения инструкций, рассуждений и вызова инструментов в формате MiniCPM5. Модель использует плотную архитектуру Llama, содержит 837,6 млн параметров и принимает контекст до 131 072 токенов. Доступны веса Safetensors для Transformers; для запуска через llama.cpp, Ollama или LM Studio автор указывает отдельную GGUF-версию. Карточка заявляет улучшения в задачах кодирования и следования инструкциям по сравнению с базовой моделью. Модель поддерживает шаблон Thinking, поэтому перед итоговым ответом может выдавать блоки рассуждений, которые приложению может потребоваться убрать. Масштаб 1B ограничивает её возможности в сложных задачах общего рассуждения по сравнению с более крупными моделями. Лицензия — Apache-2.0.
opencsg/opencsg-CodeLlama-13b-v0.1 — генеративная модель для работы с программным кодом, разработанная OpenCSG. Это версия CodeLlama на 12,9 млрд параметров, полученная полнопараметрическим дообучением базовой CodeLlama-13b-hf. Модель использует плотную архитектуру Llama и принимает текстовые запросы, включая задания на генерацию и дополнение кода. Модель подходит для генерации фрагментов кода и решения задач программирования; в карточке приведена оценка семейства на HumanEval для Python, а обучающие данные включают несколько языков программирования. Заявленная длина контекста — 16 384 токена. Доступны веса в формате safetensors; лицензия указана как llama2. Карточка отмечает, что качество зависит от способа декодирования и параметров, а оценки бенчмарков могут не отражать все практические сценарии.
SC117 публикует GGUF-сборку Ornith-1.5-35B-A3B-MTP-APEX — MoE-модели команды Ornith для агентного программирования и генерации текста. Базовая модель содержит 35 млрд параметров, из которых активируется около 3 млрд на токен; в этой сборке доступны квантизованные профили APEX и вариант BF16. APEX распределяет точность по типам и важности тензоров, а MTP-слой встроен в модель. Модель предназначена для решения задач программирования с участием агента, включая работу в терминале и с инструментами, а также для генерации текста. Репозиторий включает проектор mmproj-BF16.gguf для обработки изображений вместе с текстом через llama.cpp; заявлена возможность контекста до 131072 токенов. README приводит результаты на бенчмарках SWE-bench, Terminal-Bench и других задачах программирования и агентного взаимодействия. Сборка распространяется по лицензии MIT. Она основана на ornith-ai/Ornith-1.5-35B-A3B; метаданные каталога отмечают связь finetune, а файлы репозитория включают GGUF и GGUF BF16. README описывает дополнительные квантизованные профили APEX. Поддержка языков программирования и естественных языков отдельно не перечислена, поэтому конкретные языки здесь не указаны.
mlx-community/Qwen2.5-Coder-1.5B-8bit — 8-битная версия модели для генерации текста и кода, подготовленная сообществом mlx-community. README сообщает, что веса преобразованы в формат MLX из Qwen/Qwen2.5-Coder-1.5B с помощью mlx-lm версии 0.18.1; метаданные указывают архитектуру Qwen2, плотную авторегрессионную модель Qwen2ForCausalLM размером 1,5 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации и продолжения кода, а также диалоговой генерации текста. Метаданные отмечают возможности работы с кодом, чатом и интерфейсом вызова инструментов; карточка указывает английский язык. Лицензия — Apache-2.0. README описывает преобразование в MLX, тогда как метаданные указывают файлы Safetensors; особенности запуска и качество могут зависеть от используемой реализации и задачи.
Карточка модели Pilot-zero/Qwen2.5-Coder-1.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-1.5B-Instruct — инструкционно дообученная языковая модель для генерации и анализа кода, разработанная командой Qwen. Это причинная трансформерная модель семейства Qwen2 с 1,5 млрд параметров, обученная на коде, текстово-кодовом сопоставлении и синтетических данных. Архитектура использует RoPE, SwiGLU, RMSNorm и групповое запросное внимание; контекст — до 32 768 токенов. Модель предназначена для генерации, объяснения и исправления кода, а также для диалоговых сценариев и создания кодовых агентов. По карточке семейства, обучение также сохраняло способности к математике и общим задачам, однако основной профиль этой версии — программирование. Доступна через библиотеку Transformers и поддерживает формат safetensors. Модель распространяется по лицензии Apache-2.0. Компактный размер облегчает её запуск по сравнению с крупными моделями, но качество и надёжность ответов могут быть ниже, чем у более крупных кодовых моделей; сгенерированный код следует проверять.
unsloth/Qwen2.5-Coder-32B — 32-миллиардная языковая модель семейства Qwen2, опубликованная Unsloth и основанная на Qwen/Qwen2.5-Coder-32B. Это плотная авторегрессионная модель для генерации кода и работы с текстом; карточка README описывает серию Qwen2.5-Coder, ориентированную на генерацию, анализ и исправление кода, а также задачи кодовых агентов. Модель может быть полезна разработчикам для дополнения кода, объяснения фрагментов и помощи в исправлении ошибок. Метаданные указывают контекст до 32 768 токенов, поддержку Transformers и формат весов safetensors. README предупреждает, что базовые языковые модели не рекомендуются для диалога без дополнительного постобучения. Репозиторий лицензирован по Apache-2.0.
BenevolenceMessiah/Qwen2.5-Coder-7B-Chat-Instruct-TIES — объединённая методом TIES языковая модель на архитектуре Qwen2 для генерации кода и диалогового взаимодействия. Она создана с помощью mergekit на основе Qwen/Qwen2.5-Coder-7B-Instruct и Qwen/Qwen2.5-Coder-7B; в метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации кода по запросу и ответов в чате на задачи, связанные с программированием. Метаданные также отмечают интерфейс вызова инструментов, однако README не описывает его поведение или качество. Модель опубликована в формате safetensors и используется через библиотеку Transformers. Лицензия в предоставленных данных не указана.
Карточка модели Simplismart/Qwen3.6-35B-A3B на Hugging Face совпадает с карточкой Qwen/Qwen3.6-35B-A3B, поэтому описание составлено по ней. Qwen3.6-35B-A3B — открытая модель весов от Qwen, представленная как языковая модель с энкодером изображений и архитектурой смеси экспертов. В ней 35 млрд параметров, из которых при генерации активируются около 3 млрд; конфигурация включает 40 слоёв и 256 экспертов. Модель предназначена для диалогов, программирования и работы с изображениями, а также поддерживает вызов инструментов через соответствующий интерфейс. Основные сценарии — агентное программирование, анализ репозиториев, создание веб-интерфейсов и итеративная разработка с сохранением контекста рассуждений между сообщениями. Модель принимает текст и изображения и генерирует текст. Нативное окно контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. В README приведены англоязычные и китайскоязычные примеры оценки веб-разработки; полная таблица поддерживаемых языков опущена. Веса доступны в формате Safetensors и совместимы с Transformers, vLLM, SGLang и другими указанными средами. Для работы с длинным контекстом требуются значительные вычислительные ресурсы; README рекомендует уменьшать окно при нехватке памяти и современные серверные движки для производительных нагрузок. Лицензия — Apache 2.0.
Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-oQ8e-1M — это версия модели Qwen3.8-27B Cold Fusion, разработанной DavidAU, с последующей квантизацией, масштабированием контекста и упаковкой от Solstice-AI. Модель предназначена для локального запуска на устройствах Apple Silicon через Apple MLX, Anvil Runtime и MLX-LM, включая задачи рассуждений, программирования, агентной разработки ПО, отладки репозиториев и длительных рабочих процессов с большим контекстом. В README также заявлена поддержка сценариев управления операционными системами и мобильными устройствами. Модель имеет размер 27 млрд параметров и поставляется в смешанной 8-битной точности Apple MLX oQ8e, оптимизированной с помощью importance matrix. Заявлена гибридная архитектура с Gated Delta Recurrent Network и Grouped-Query Attention, а также аппаратная Multi-Token Prediction. Максимальный контекст составляет 1 048 576 токенов благодаря YaRN RoPE scaling. Указаны английский и китайский языки; в метаданных модель обозначена как image-text-to-text, однако подробности поддержки изображений в README не приведены. К заявленным сильным сторонам относятся большой контекст, оптимизация для unified memory и Metal на Apple Silicon, сохранение качества при квантизации и высокая производительность с заявленным ускорением 1,72–2,20 раза благодаря MTP. README приводит результаты внутренних или заявленных разработчиками сравнений, включая 61,7% на SWE-bench Pro и 735 на ARC-C, но их независимая проверка не представлена. Ограничения включают зависимость от совместимого Apple Silicon окружения, возможные потери качества из-за квантизации и отсутствие подробных данных о требованиях к памяти и воспроизводимости оценок. Лицензия указана как Apache 2.0.
Qwen3.8-Flash-Next-Heretic2-IQ4XS-NGQ4-GGUF — мультимодальная версия Qwen3.8-Flash-Next от Alibaba, обработанная методом abliteration с Heretic v1.3.0+custom и квантованная в GGUF для запуска через специализированную сборку llama.cpp. Репозиторий содержит основную модель размером 92 ГБ в формате IQ4_XS с таблицей n-грамм, сжатой методом NGQ4, и отдельный проектор изображений BF16 размером 866 МБ. Модель принимает текст и изображения, поддерживает диалог и анализ изображений; в README также приведены результаты генерации кода на HumanEval+. Для запуска требуется форк llama.cpp с поддержкой архитектуры qwen4exp; стандартная сборка llama.cpp её не загружает. Модель создана на основе Qwen/Qwen3.8-Flash-Next и рассчитана на локальный инференс, в том числе на оборудовании AMD Strix Halo с 128 ГБ объединённой памяти. README сообщает, что на HumanEval+ вариант набрал 84,1% на базовом наборе и 79,3% на Plus при указанном режиме тестирования. Это результат конкретного бенчмарка, а не гарантия качества на других задачах. Abliteration существенно снизила число отказов на проверенных авторами 100 запросах; такое изменение может повлиять на поведение модели при обработке запросов, требующих отказа. Лицензия указана в метаданных как other; конкретные условия использования в доступных сведениях не приведены. Квантизация уменьшает размер модели, но её точность может отличаться от исходной версии. README сообщает об отсутствии измеримого снижения точности на контексте до 32K для этапа сжатия NGQ4; это утверждение ограничено описанными автором проверками.
Qwen3-Coder-23B-A3B-KREAP-MLX — это созданная RAS-LAB сжатая версия инструктивной модели Qwen3-Coder-30B-A3B-Instruct для генерации текста и кода, диалогов и работы с инструментами. Модель использует архитектуру MoE и доступна в формате safetensors для MLX и Transformers; в README указаны около 23 млрд параметров и 3,3 млрд активных, тогда как метаданные каталога указывают 2,6 млрд параметров. Контекст — до 262 144 токенов. Модель получена однопроходным удалением экспертов K-REAP без дообучения: число маршрутизируемых экспертов на слой сокращено со 128 до 96, при этом сохранены top-8 и корейские пути экспертов. По приведённым в карточке тестам, это помогает сохранить качество на корейском языке при небольшом снижении результатов по ряду корейских, английских и программных бенчмарков. Предназначена для программирования, рассуждений, математических задач и корейско-английских диалогов. Лицензия — Apache-2.0.
Qwen3-Coder-480B-A35B-Instruct-MLX-4bit — это 4-битная версия модели Qwen3-Coder-480B-A35B-Instruct, разработанной Qwen. Квантизация выполнена командой LM Studio с использованием MLX — фреймворка Apple для машинного обучения. Модель предназначена для генерации текста и оптимизирована для запуска на устройствах с Apple Silicon через LM Studio 0.3.20 или более поздней версии. Модель ориентирована прежде всего на сценарии, поддерживаемые исходной Qwen3-Coder-480B-A35B-Instruct, однако в представленном README не указаны её подробные архитектурные характеристики, языки, размер контекста, модальности, специализированные возможности программирования или результаты тестирования. Ключевое преимущество данной версии — 4-битное представление и оптимизация под MLX, что делает её более подходящей для локального запуска на Apple Silicon по сравнению с полноразмерной версией, но конкретные требования к памяти и производительности не приведены. Модель распространяется по лицензии Apache-2.0.
Карточка модели dudi2016b/Qwen3-Coder-Next на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-Next, поэтому описание составлено по ней. Qwen3-Coder-Next — открытая модель семейства Qwen3 от команды Qwen, предназначенная для кодирующих агентов и локальной разработки. Это причинная языковая модель архитектуры MoE с гибридным сочетанием Gated DeltaNet и Gated Attention. В README указано 80 млрд параметров всего и 3 млрд активных; метаданные каталога указывают 2,3 млрд параметров, поэтому точный размер расходится между источниками. Модель рассчитана на генерацию и изменение кода, многошаговые задачи разработки, вызов инструментов и восстановление после ошибок выполнения. Контекстное окно — 262 144 токена; поддерживаются чат и интерфейс вызова инструментов. README описывает её как пригодную для интеграции с CLI и IDE, а также локального развёртывания. Модель работает только в режиме без reasoning и, согласно README, не генерирует блоки ````. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковые коды не включены. Лицензия — Apache-2.0.
Карточка модели tomhu/Qwen3-Coder-Next-SWE-Prune-ACTIVATION-70 на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-Next, поэтому описание составлено по ней. Qwen3-Coder-Next — открытая модель семейства Qwen3 от команды Qwen, предназначенная для кодирующих агентов и локальной разработки. Это причинная языковая модель архитектуры MoE с гибридным сочетанием Gated DeltaNet и Gated Attention. В README указано 80 млрд параметров всего и 3 млрд активных; метаданные каталога указывают 2,3 млрд параметров, поэтому точный размер расходится между источниками. Модель рассчитана на генерацию и изменение кода, многошаговые задачи разработки, вызов инструментов и восстановление после ошибок выполнения. Контекстное окно — 262 144 токена; поддерживаются чат и интерфейс вызова инструментов. README описывает её как пригодную для интеграции с CLI и IDE, а также локального развёртывания. Модель работает только в режиме без reasoning и, согласно README, не генерирует блоки ````. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковые коды не включены. Лицензия — Apache-2.0.
Карточка модели tomhu/Qwen3-Coder-Next-SWE-Prune-GATE-70 на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-Next, поэтому описание составлено по ней. Qwen3-Coder-Next — открытая модель семейства Qwen3 от команды Qwen, предназначенная для кодирующих агентов и локальной разработки. Это причинная языковая модель архитектуры MoE с гибридным сочетанием Gated DeltaNet и Gated Attention. В README указано 80 млрд параметров всего и 3 млрд активных; метаданные каталога указывают 2,3 млрд параметров, поэтому точный размер расходится между источниками. Модель рассчитана на генерацию и изменение кода, многошаговые задачи разработки, вызов инструментов и восстановление после ошибок выполнения. Контекстное окно — 262 144 токена; поддерживаются чат и интерфейс вызова инструментов. README описывает её как пригодную для интеграции с CLI и IDE, а также локального развёртывания. Модель работает только в режиме без reasoning и, согласно README, не генерирует блоки ````. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковые коды не включены. Лицензия — Apache-2.0.
QwQ-32B-Preview — экспериментальная модель рассуждений, разработанная командой Qwen. Это плотная авторегрессионная языковая модель семейства Qwen2, дообученная на базе Qwen/Qwen2.5-32B-Instruct; в README описана архитектура Transformer с RoPE, SwiGLU, RMSNorm и смещениями QKV в механизме внимания. Модель содержит около 32 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста, решения математических задач и программирования. В карточке отмечены возможности чата и интерфейс вызова инструментов. Для работы используется библиотека Transformers; лицензия Apache-2.0. Модель может смешивать языки, зацикливаться в рассуждениях и выдавать длинные ответы без вывода. Она сильнее в математике и программировании, чем в здравом смысле и тонком понимании языка; при развёртывании следует учитывать указанные в карточке ограничения безопасности.
speechless-mistral-hermes-code-7b — дообученная модель на архитектуре Mistral, созданная на основе mistralai/Mistral-7B-v0.1. В README указано, что обучение на 986 тыс. примеров из OpenHermes-2.5, Python Eval Instruct, Spider и Evol-Instruct было направлено на улучшение рассуждений и планирования; модель принимает инструкции в формате Alpaca. Модель предназначена для генерации текста по инструкциям, включая помощь с кодом и задачами, требующими рассуждений. Она содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. В метаданных указан английский язык и библиотека Transformers. Модель распространяется в формате safetensors по лицензии Apache-2.0. В таблицах README приведены названия оценочных наборов, но значения результатов отсутствуют, поэтому по карточке нельзя судить о достигнутом качестве на этих тестах.
Stable-DiffCoder-8B-Instruct — инструктивная модель генерации кода от ByteDance-Seed, построенная на архитектуре Seed-Coder и дообученная на базе Stable-DiffCoder-8B-Base. Это плотная языковая модель с 7,6 млрд параметров и маскированной диффузионной генерацией; карточка указывает обучение на открытых и синтетических данных и настройку для следования пользовательским инструкциям. Модель предназначена для генерации, дополнения, редактирования и анализа кода, включая задачи рассуждения о коде. Контекст составляет 8192 токена. В README заявлены улучшения на ряде кодовых бенчмарков по сравнению с авторегрессионными и другими диффузионными моделями близкого размера; диффузионный подход также помогает обрабатывать структурированный код и языки программирования с меньшим количеством данных. Для запуска README описывает использование Transformers и параметры пошаговой генерации, включая длину блоков, стратегию повторного маскирования и порог декодирования. Модель распространяется по лицензии MIT. README не перечисляет поддерживаемые языки программирования, поэтому конкретные языки здесь не указаны.
StarChat2 15B — разговорная модель для помощи с программированием, разработанная HuggingFaceH4. Это плотная авторегрессионная модель семейства StarCoder2 с 21,7 млрд параметров и контекстом до 16 384 токенов, дообученная методами SFT и DPO на синтетических наборах данных для диалога, кода, математики и рассуждений. Модель рассчитана прежде всего на английский язык и более 600 языков программирования. Её можно применять для диалоговых ответов, написания и дополнения кода, а также решения задач на математику и рассуждения. В карточке сообщается о результатах на MT Bench, IFEval и HumanEval; результаты зависят от формата промпта и условий оценки. Модель доступна в формате safetensors и распространяется по лицензии BigCode Open RAIL-M v1. Модель не прошла выравнивание предпочтений с помощью RLHF и может выдавать проблемный контент. Сгенерированный код может быть ошибочным или уязвимым, а ссылки — вымышленными; ответы и код требуют проверки.
TechxGenus/starcoder2-15b-instruct — языковая модель для генерации кода, созданная дообучением StarCoder2-15B на 0,7 млрд дополнительных токенов с примерами, связанными с программированием; обучение проводилось в течение трёх эпох. Модель использует архитектуру StarCoder2 с плотной causal language model на 21,7 млрд параметров и принимает запросы в формате инструкций Alpaca без системного промпта. Для запуска предлагается Transformers; веса доступны в формате safetensors, контекст — до 16 384 токенов. Модель предназначена для генерации кода по инструкциям и другим задачам программирования. В README заявлен результат 77,4 pass@1 на HumanEval-Python, однако авторы отмечают, что модель прошла ограниченное тестирование и может ошибаться, выдавать вводящее в заблуждение содержимое и хуже справляться с задачами вне программирования. Лицензия — BigCode OpenRAIL-M.
WaveCoder-Pro-6.7B — языковая модель для программирования из серии WaveCoder, разработанной авторами работы «WaveCoder: Widespread And Versatile Enhanced Instruction Tuning with Refined Data Generation». Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 6,6 млрд параметров; она предназначена для генерации кода и выполнения инструкций по задачам программирования. Контекст составляет 16 384 токена, модель работает с текстом и выдаёт текст. Обучение проводилось на синтетических данных, созданных моделями OpenAI на основе подмножества CodeSearchNet. Данные охватывают генерацию, краткое описание, перевод и исправление кода. В README приведены результаты WaveCoder-Pro-6.7B на HumanEval, MBPP, HumanEvalFix и HumanEvalExplain; численные результаты являются оценками авторов карточки. Модель доступна под лицензией MIT. При использовании следует учитывать условия OpenAI, относящиеся к синтетическим данным и их наборам.
jondurbin подготовил эту плотную 65-миллиардную языковую модель на архитектуре LLaMA, дообучив её методом QLoRA на синтетических инструкциях, созданных GPT-4. Модель предназначена для диалоговой генерации текста и отвечает на запросы в формате, основанном на шаблоне Vicuna. Она рассчитана на программирование, математические задачи и рассуждения, викторины, ролевые диалоги, вопросы с вариантами ответа и по заданному контексту, а также общие запросы. Для промптов на написание кода предусмотрена инструкция PLAINFORMAT, которая просит вывести код без Markdown-разметки; автор отмечает, что она срабатывает не всегда. Модель содержит 65 млрд параметров, работает с контекстом до 2048 токенов и распространяется в формате PyTorch. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. Модель может ошибаться, а следование формату PLAINFORMAT не гарантировано.
Brello Thinking — языковая модель Epic Systems из семейства Brello AI, предназначенная для генерации текста с акцентом на рассуждения, математику, программирование и творческие задачи. В README указана база Tencent Hunyuan; архитектура в метаданных обозначена как плотная причинная EpicBrelloV1ForCausalLM, размер модели — 1,8 млрд параметров. Модель принимает текст и генерирует текст. Заявлена поддержка контекста до 262 144 токенов, режимов быстрого и углублённого рассуждения, а также интерфейса вызова инструментов. README заявляет поддержку английского и китайского языков. Репозиторий содержит веса safetensors и помечен лицензией MIT в метаданных, однако README указывает проприетарную лицензию Epic Systems и запрет на распространение и крупномасштабный хостинг; условия лицензирования противоречат друг другу, их следует проверить перед использованием.
MaziyarPanahi/Calme-7B-Instruct-v0.1 — диалоговая языковая модель Maziyar Panahi, дообученная на базе Mistral-7B. Она предназначена для генерации связных ответов и ведения диалога; в карточке также показан пример объяснения Docker. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Заявленная длина контекста — 32 768 токенов; доступны веса PyTorch и Safetensors. Для модели указана лицензия Apache-2.0. README также упоминает отдельные квантизированные версии в формате GGUF, но это репозиторий исходной модели.