II.7DevOps, облако и эксплуатация IT-систем

RedHatAI/gemma-2-9b-it-FP8 — языковая модель для генерации текста на основе Google Gemma 2 9B Instruct. Квантованную версию разработала Neural Magic (Red Hat). Модель принимает текст и генерирует текст, ориентирована на диалоговые сценарии и работу в формате ассистента на английском языке. Модель использует архитектуру Gemma 2 и оптимизирована для инференса в формате FP8: в FP8 преобразованы веса и активации линейных операторов внутри трансформерных блоков. Это сокращает число бит на параметр с 16 до 8 и примерно на 50% уменьшает требования к дисковому пространству и памяти GPU. Модель предназначена для запуска с vLLM версии 0.5.1 и выше; в примере развертывания указан максимальный размер контекста 32768 токенов. По данным README, средний результат на OpenLLM Leaderboard v1 составляет 73,49 против 73,23 у исходной неквантованной модели, однако другие показатели качества не приведены. Основное ограничение — заявленная область применения ограничена английским языком; использование на других языках указано как выходящее за рамки назначения. Модель доступна для коммерческого и исследовательского использования по лицензии Gemma; применяются условия Google Gemma.

Granite-TimeSeries-TTM-R2 — компактная предварительно обученная модель TinyTimeMixer для прогнозирования многомерных временных рядов, выпущенная IBM Research. Варианты TTM рассчитаны на определённые длины контекста и прогноза; эта версия относится к семейству моделей размером около 1 млн параметров и использует архитектуру TinyTimeMixerForPrediction. Модель поддерживает нулевое прогнозирование и дообучение на данных целевого ряда, включая режимы независимой обработки каналов и смешивания каналов. Модель предназначена для точечного прогнозирования временных рядов от минутной до часовой частоты. Она может использовать экзогенные признаки и статические категориальные данные; для каждого канала требуется предварительное масштабирование. По карточке модели, TTM отличается малыми требованиями к ресурсам и может запускаться на одной GPU или ноутбуке, а дообучение возможно на небольшой доле целевых данных. Версия распространяется по лицензии Apache-2.0. Ограничения включают зависимость выбора варианта от длины контекста, горизонта прогноза и распределения целевых данных. Не рекомендуется искусственно увеличивать короткую историю нулевыми значениями или повышением частоты; поддержка частот ниже часовой в описанной версии ограничена, при этом ежедневные и еженедельные частоты добавлены в выпуске r2.1.

Это финальная готовая к инференсу модель для генерации кода, созданная методом supervised fine-tuning на базе meta-llama/Llama-3.2-3B-Instruct. Разработчик обучал её на llama3b_code_sft_data с упорядоченной подачей примеров и равномерным повторным воспроизведением данных с коэффициентом 1,0; представлена версия на шаге оптимизатора 65. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 3,2 млрд параметров и работает с контекстом до 131 072 токенов. Модель предназначена для генерации кода в диалоговом формате и готова к запуску через Transformers; веса доступны в формате safetensors. README не уточняет поддерживаемые языки программирования, результаты оценки качества или конкретные ограничения. Базовая модель распространяется по лицензии Llama 3.2 Community License; условия лицензии производной модели следует сверить с её репозиторием и лицензией базовой модели.

bappi/Qwen2.5-Coder-3B-Uncensored — текстовая генеративная модель, опубликованная пользователем bappi на Hugging Face. Репозиторий содержит модель примерно на 3 млрд параметров в формате Safetensors и предназначен для запуска через Transformers, vLLM и совместимые инструменты. По идентификатору и тегам это вариант семейства Qwen2.5-Coder, ориентированный прежде всего на генерацию и обработку программного кода, однако точное описание дообучения и сведения о разработчике в карточке модели отсутствуют. Надёжно подтверждены возможности text generation и conversational inference. Для базовой модели Qwen2.5-Coder-3B официально указаны архитектура Qwen2ForCausalLM, 3,09 млрд параметров, 36 слоёв, механизм GQA и контекст до 32 768 токенов; семейство предназначено для задач кодогенерации, завершения кода и работы с математическими и общими текстовыми запросами. Мультимодальность не заявлена. Языки и фактическое качество именно этой производной модели не описаны в её карточке, поэтому их нельзя достоверно установить. Карточка модели автоматически сгенерирована и не содержит данных о тестах, обучающих данных, ограничениях, рисках или лицензии. Условия лицензирования данной производной модели не указаны; лицензию базовой модели нельзя автоматически считать лицензией этого репозитория. Из-за отсутствия сведений о методе модификации, оценках и ограничениях следует ожидать возможных ошибок и проверять результаты, особенно в программном коде.

hellohazime/Qwen3.8-2.4T-A95B-REAP-256GB-GGUF — это сжатая версия крупной MoE-модели Qwen3.8-2.4T-A95B, разработанная на основе unsloth/Qwen3.8-2.4T-A95B-GGUF. Модель предназначена для генерации текста и прежде всего для англоязычных задач и программирования на компьютерах с примерно 256 ГБ оперативной или унифицированной памяти. Она загружается и работает в стандартной основной ветке llama.cpp без специального runtime или форка. В модели сохранены 304 из 512 экспертов в каждом MoE-слое, выбранные по частоте маршрутизации на англоязычном и кодовом корпусе объёмом 200 тысяч токенов. Внутренняя ширина каждого оставшегося эксперта уменьшена с 2048 до 1536 каналов. Квантизация не выполнялась повторно: сохранённые данные побайтово соответствуют исходной квантизованной модели UD-IQ1_S с плотностью 1,56 бит на вес. Итоговый размер составляет 246 ГБ, или 229 ГиБ. Сильная сторона модели — существенное уменьшение требований к памяти при сохранении значительной части поведения исходной модели: на отложенных данных совпадение главного токена составило 79,2% для английского языка и 86,6% для кода. При этом модель заметно отклоняется от исходной на редких и сложных случаях; показатель perplexity вырос с 9,05 до 10,90 на английском и с 1,89 до 2,38 на коде. Авторы предупреждают, что неанглоязычные и выходящие за пределы калибровочного корпуса задачи намеренно принесены в жертву, поэтому модель не рекомендуется для многоязычной работы и сложного рассуждения. Лицензия указана как qwen3.8-max, тип лицензии — other.

WhiteRabbitNeo-33B-v1 — плотная авторегрессионная языковая модель семейства Llama с 33,1 млрд параметров, разработанная командой WhiteRabbitNeo. Она предназначена для генерации текста и задач кибербезопасности, включая обсуждение атакующих и защитных сценариев, анализ уязвимостей и помощь с кодом. Карточка представляет модель как публичное предварительное испытание возможностей серии; в README приведены примеры запросов по разработке серверов, тестированию IoT и Wi-Fi, reverse shell и Scapy. Модель принимает текст и генерирует текст. Заявленная длина контекста — 16 384 токена. Метаданные указывают PyTorch; README ссылается на более новую версию 33B-v1.1 для веб-приложения, поэтому возможности этой версии могут отличаться от опубликованного чекпойнта. Лицензия обозначена как other, а README приводит условия использования с отказом от гарантий и ответственностью пользователя; точные права на распространение и коммерческое применение из этих данных неясны.

XwinCoder-13B — инструкция-настроенная модель генерации кода от Xwin-LM, дообученная на базе CodeLLaMA. Она предназначена для создания кода по текстовым инструкциям и запросам; авторы публикуют веса и код оценки. В карточке приведены результаты XwinCoder-13B на HumanEval, MBPP и APPS-intro: pass@1/5 соответственно 68,8, 60,1 и 35,4. Модель имеет плотную архитектуру LlamaForCausalLM с 12,9 млрд параметров, принимает текст и генерирует текст, а заявленная длина контекста составляет 16 384 токена. В метаданных указан формат PyTorch и лицензия Llama 2. README описывает её как instruction fine-tune CodeLLaMA, поэтому для использования следует соблюдать условия лицензии Llama 2.

Карточка модели Xwin-LM/XwinCoder-7B на Hugging Face совпадает с карточкой Xwin-LM/XwinCoder-13B, поэтому описание составлено по ней. XwinCoder-13B — инструкция-настроенная модель генерации кода от Xwin-LM, дообученная на базе CodeLLaMA. Она предназначена для создания кода по текстовым инструкциям и запросам; авторы публикуют веса и код оценки. В карточке приведены результаты XwinCoder-13B на HumanEval, MBPP и APPS-intro: pass@1/5 соответственно 68,8, 60,1 и 35,4. Модель имеет плотную архитектуру LlamaForCausalLM с 12,9 млрд параметров, принимает текст и генерирует текст, а заявленная длина контекста составляет 16 384 токена. В метаданных указан формат PyTorch и лицензия Llama 2. README описывает её как instruction fine-tune CodeLLaMA, поэтому для использования следует соблюдать условия лицензии Llama 2.

AlchemistCoder-L-7B-GGUF — это набор GGUF-квантизаций языковой модели AlchemistCoder-L-7B, опубликованный bartowski и созданный на основе исходной модели internlm/AlchemistCoder-L-7B с использованием llama.cpp и метода imatrix. Модель предназначена прежде всего для генерации кода и запуска локального текстового вывода через совместимые движки, включая llama.cpp. В README не указаны точные сведения о разработчике исходной модели, архитектуре, поддерживаемых языках, длине контекста и мультимодальности. Доступны варианты с разным уровнем квантизации: от Q8_0 размером 7,16 ГБ до Q2_K размером 2,53 ГБ, включая рекомендуемые Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Более качественные варианты требуют больше памяти, а низкобитные занимают меньше места ценой качества; Q3_K_S отмечен как нерекомендуемый, тогда как некоторые I-кванты могут обеспечивать выгодное соотношение размера и производительности в определённых конфигурациях оборудования. Формат приглашений в README не подтверждён и может быть некорректным. Модель распространяется по лицензии Apache-2.0. Ограничения включают отсутствие подробной информации об исходной модели, языках и контексте, а также зависимость доступного качества и скорости от выбранной квантизации и используемого оборудования. Для IQ-квантов важна совместимость с конкретным backend: в README отдельно отмечено ограничение для Vulkan.

AmberYifan/capsd-marin-8b-base-code_random_b12000_s0 — дообученная модель семейства Llama на базе marin-community/marin-8b-base. По названию и карточке она обучалась на смеси данных с кодом; метаданные указывают архитектуру LlamaForCausalLM, плотную модель с 7,5 млрд параметров и контекст до 4096 токенов. Модель предназначена для генерации и продолжения текста, включая сценарии работы с кодом. В README не приведены результаты оценки, подробности обучающей смеси или конкретные языки программирования. Базовая модель описана как англоязычная, поэтому нельзя уверенно считать, что эта версия хорошо работает на других естественных языках. Лицензия указана как other, без дополнительных условий в доступных сведениях.

DeepMagic-Coder-7b-Alt — альтернативная версия DeepMagic-Coder-7b от rombodawg, созданная слиянием DeepSeek-Coder и Magicoder-S-DS методом task arithmetic. Автор сообщает, что при кратком тестировании эта версия лучше генерировала код, и предлагает сравнить её с исходной; результаты бенчмарков в карточке не приведены. Модель предназначена для генерации кода и работает как плотная авторегрессионная Llama-архитектура с 6,6 млрд параметров. Метаданные указывают контекст до 16 384 токенов и формат safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой модели и лицензиями исходных компонентов.

Это плотная языковая модель семейства Qwen3 с 29,7 млрд параметров, разработанная на основе Qwen/Qwen3-32B и дообученная авторами репозитория на наборе open-athena/GLM-4.6-stackexchange-overflow-sandboxes-32eps-65k-reasoning. Она предназначена для генерации текста в диалоговом формате; название обучающего набора указывает на специализацию на вопросах и ответах из Stack Exchange и Stack Overflow, включая задачи с песочницами и рассуждениями. Модель принимает текст и выдаёт текст. Метаданные указывают на поддержку контекста до 40 960 токенов и семейство Qwen3; репозиторий использует Transformers и формат safetensors. Карточка не содержит результатов оценки или подробного описания качества, поэтому специализация по названию датасета не подтверждает конкретный уровень точности. Лицензия указана как other, без уточнения условий в предоставленных данных. Модель унаследовала базовую архитектуру Qwen3-32B и не описана как мультимодальная.

Granite-TTM-R3 — компактная предварительно обученная модель прогнозирования временных рядов из семейства Granite, разработанная IBM на основе TinyTimeMixer. Вариант в этом репозитории содержит 2,3 млн параметров и представлен в формате safetensors; архитектура относится к семейству TinyTimeMixer и использует эффективные mixer-блоки без дорогостоящего self-attention. Модель предназначена для прогнозирования временных рядов, в том числе на новых наборах данных без дообучения, с адаптацией на небольшом числе примеров и после полного дообучения под конкретную область. Поддерживаются многомерные ряды, дополнительные и управляющие переменные, а также пакетный инференс. В карточке описаны декомпозиция тренда и остатка, многомасштабная обработка временных зависимостей, частотные признаки и вероятностные прогнозы по квантилям. Компактный размер и заявленная высокая пропускная способность делают модель подходящей для масштабного и низколатентного прогнозирования, включая развёртывание на CPU. Результаты точности и скорости приведены в карточке модели; они зависят от данных и условий измерения. Модель распространяется по лицензии Apache-2.0.

albertge/llada-8b-dllm-registers-code64-codetags-t4 — модель, разработанная в рамках проекта dLLM Registers и дообученная на базе GSAI-ML/LLaDA-8B-Base. Это плотная диффузионная языковая модель на 8 млрд параметров для генерации текста, специализирующаяся на задачах программирования. Обучение продолжено в режиме chunked SFT на кодовой части набора mix60k: использовались около 30 тысяч трасс из подмножества OpenCodeInstruct, размер окна составлял 64 токена. Модель переносит состояние декодирования между окнами денойзинга через хвостовой канал Markovian Thinking длиной 4 токена; для корректного вывода требуются соответствующие параметры канала. Карточка указывает английский язык, интерфейс чата и библиотеку Transformers. Модель распространяется по лицензии Apache-2.0. Практическое применение ориентировано на генерацию кода; точные результаты оценки качества в карточке не приведены.

ndpo4 — дообученная модель на 1,3 млрд параметров, созданная на базе deepseek-ai/deepseek-coder-1.3b-base и датасета generator. Она использует плотную архитектуру семейства Llama и предназначена для генерации текста; с учётом базовой модели может применяться для продолжения и автодополнения кода, а также заполнения пропусков в коде. Контекстное окно составляет до 16 384 токенов. Модель опубликована в формате safetensors. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели. README не содержит сведений об оценке качества или дополнительных ограничениях.

Ornith-1.0-35B — открытая модель семейства Ornith от Ornith AI, дообученная с применением обучения с подкреплением на базе Qwen 3.5. Это вариант на 35 млрд параметров с архитектурой Qwen3.5 MoE, предназначенный для генерации кода и работы в агентных сценариях, в том числе через инструменты и терминальные интерфейсы. Разработчики сообщают о высоких результатах на бенчмарках кодирования и позиционируют модель для эффективного развёртывания; примеры запуска рассчитаны на узел с восемью GPU по 80 ГБ. Модель принимает текстовые запросы и выдаёт текст, включая код и структурированные вызовы инструментов. В README приведены оценки с контекстом до 400 тыс. токенов в отдельных бенчмарках, а конфигурация сервера задаёт максимум 262 144 токена. Модель доступна под лицензией MIT. Указанные результаты зависят от тестового окружения и настроек, а примеры развёртывания требуют значительных GPU-ресурсов.

Ornith-1.0-9B-GGUF — GGUF-квантизированная версия Ornith-1.0-9B, разработанная Unsloth на базе модели deepreinforce-ai/Ornith-1.0-9B. Это компактная открытая модель для агентного программирования, ориентированная на эффективное развёртывание на одной GPU и решение задач, связанных с разработкой и изменением кода. Модель относится к семейству Ornith-1.0, в котором применяется обучение с подкреплением для совместной оптимизации решений и scaffolding, управляющего поиском решения. Для версии 9B заявлены результаты 43,1 на Terminal-Bench 2.1 (Terminus-2), 40,6 на Terminal-Bench 2.1 (Claude Code) и 69,4% на SWE-bench Verified. README не содержит точных сведений о размере контекста, языках программирования, поддерживаемых модальностях или конкретной архитектуре; из тегов следует принадлежность к семейству Qwen 3.5 MoE, но это не позволяет достоверно описать архитектуру данной версии. К сильным сторонам относятся специализация на агентном кодинге, компактный размер и возможность локального запуска с использованием GGUF. Ограничения связаны с отсутствием в представленных данных подробностей о квантизации, требованиях к памяти, контекстном окне и языковом покрытии, поэтому практические характеристики следует уточнять отдельно. Модель распространяется по лицензии MIT.

Qwen2.5-Coder-1.5B-Instruct-abliterated-GGUF — это набор GGUF-квантизаций инструкционной модели Qwen2.5-Coder-1.5B-Instruct-abliterated. Исходную модель разработала huihui-ai, а квантизации подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, прежде всего для задач, связанных с программированием, и запуска через llama.cpp или LM Studio. Доступны варианты от F16 до низкобитных квантизаций Q3 и IQ3 с размером файлов примерно от 1 до 3,56 ГБ. Указан английский язык; сведения о других языках, архитектуре, длине контекста и поддержке мультимодальности в README отсутствуют. Более точные варианты Q6 и Q5 позиционируются как высококачественные, а Q4_K_M — как сбалансированный вариант для большинства сценариев; низкобитные версии экономят оперативную память, но могут снижать качество. Отдельные Q4-варианты оптимизированы для ARM и требуют соответствующей поддержки инструкций. Модель распространяется по лицензии Apache-2.0. В README также указано, что вариант является abliterated и uncensored, поэтому ограничения исходной модели в отношении отказов могут отличаться; конкретные характеристики безопасности и результаты оценки не приведены.

Qwen-Servitor — компактная модель wxsys для автоматизированного анализа изменений в коде и проверки безопасности. Она основана на Qwen/Qwen3.5-0.8B-Base и дообучена для классификации диффов при проверке pull request, запуске pre-commit-проверок и первичной сортировке результатов статического анализа. Архитектура использует 18 слоёв Gated DeltaNet и 6 слоёв полного внимания; генеративная голова удалена, а скрытые состояния поступают в классификатор, формирующий вердикт, оценку риска и метки уязвимостей. Модель предназначена для разделения изменений на APPROVE, QUARANTINE и REJECT, выявления проблем вроде небезопасных SQL-запросов и восстановления путей эксплуатации с результатами в формате SARIF 2.1.0. README также описывает генерацию и автоматическую проверку исправляющих патчей, но метаданные подтверждают только задачу text-classification. Заявлены поддержка анализа кода на Python, Go и TypeScript, работа с небольшими ресурсами и варианты файлов GGUF и safetensors; лицензия — Apache-2.0.

Sundial (Timer 3.0) — генеративная фундаментальная модель временных рядов, разработанная командой THUML. Версия с 113,2 млн параметров предварительно обучена на более чем 1 трлн временных точек и предназначена для прогнозирования временных рядов, в том числе без дополнительного обучения на конкретном наборе данных. Модель поддерживает точечные и вероятностные прогнозы: по сгенерированным вариантам можно получать средние значения, квантили и другие статистические оценки. Архитектура включает decoder-only Transformer с причинной маской и патчевым представлением входных рядов; README описывает контекст до 2880 временных шагов и предсказание до 720 шагов. Каталог указывает контекст 10 000 токенов, поэтому фактический предел зависит от используемого представления и конфигурации. Sundial рассчитана на прогнозирование в разных прикладных областях, где доступны числовые временные ряды. Для удобства инференса заявлены KV cache и FlashAttention; модель доступна в формате safetensors и интегрирована в Transformers. Лицензия — Apache-2.0. Результаты бенчмарков из README не гарантируют такую же точность на конкретных данных; совместимость Quickstart привязана к указанной версии Transformers и Python.

BAAI/AquilaCode-multi — модель генерации текста из семейства Aquila, опубликованная BAAI. В карточке указаны версия v0.9 и файлы AquilaCode-mutil; README описывает Aquila как двуязычную китайско-английскую языковую модель, обученную с нуля, а семейство — как основанное на архитектурных решениях GPT-3 и LLaMA. По метаданным эта модель имеет плотную архитектуру Aquila, около 6,9 млрд параметров и контекст до 2048 токенов. Модель предназначена для генерации текста и задач с кодом в нескольких языках программирования. README не уточняет полный перечень языков программирования и не приводит отдельные показатели качества именно AquilaCode-multi. Метаданные указывают формат PyTorch и задачу text-generation. Для весов действует лицензия BAAI Aquila Model License Agreement; коммерческое использование допускается при соблюдении её ограничений.

CodeGen2-16B_P — авторегрессионная языковая модель для синтеза программного кода из семейства CodeGen2, разработанного Salesforce. Это плотная модель класса CodeGenForCausalLM с 16 млрд параметров; она принимает текст и генерирует продолжение, а также поддерживает заполнение пропусков в коде по контексту до 2048 токенов. Модель предназначена прежде всего для генерации исполняемого кода по подсказкам на английском языке в виде комментариев и для завершения частично написанных программ. Обучение проводилось на permissive-подмножестве дедуплицированного Stack v1.1. В карточке перечислена поддержка языков программирования C, C++, C#, Dart, Go, Java, JavaScript, Kotlin, Lua, PHP, Python, Ruby, Rust, Scala, shell, SQL, Swift, TypeScript и Vue. Проверка включала HumanEval и HumanEval-Infill. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Авторы указывают, что выпуск предназначен для исследовательских целей; перед применением следует оценить точность и безопасность результатов. Модель лучше всего подходит для синтеза кода, а качество и уместность сгенерированных программ требуют проверки.

Salesforce CodeGen2-1B_P — авторегрессионная языковая модель семейства CodeGen2 с плотной архитектурой CodeGenForCausalLM и примерно 1 млрд параметров. Она предназначена прежде всего для генерации программного кода по текстовым подсказкам на английском языке, продолжения фрагментов кода и заполнения пропусков внутри кода. Модель поддерживает несколько языков программирования, включая Python, JavaScript, Java, C++, Go, Rust и SQL; длина контекста — 2048 токенов. Модель обучена на разрешённой для использования под permissive-лицензиями части дедуплицированного набора Stack v1.1 и оценивалась на HumanEval и HumanEval-Infill. Она подходит для генерации и дополнения кода, но результаты требуют проверки на корректность, безопасность и соответствие задаче. Разработчик указывает исследовательское назначение выпуска; лицензия репозитория — Apache-2.0.

kompress-v2-base — англоязычная модель для извлечения значимых фрагментов текста и сжатия промптов перед передачей LLM. Она присваивает каждому токену оценку сохранения и метку keep/drop; оставшиеся токены образуют сокращённый текст, сохраняющий смысл исходного ввода. Модель разработана на базе answerdotai/ModernBERT-base: использует LoRA-адаптер и дополнительную голову классификации токенов со свёрточным слоем для анализа последовательностей. Размер базовой модели — 149 млн параметров; обучаемая часть адаптера — 3,4 млн параметров. Модель предназначена для интеграции в прокси-сервисы LLM и другие конвейеры, где нужно уменьшить расход токенов, сохранив важные сведения. Порог оценки позволяет выбирать компромисс между степенью сжатия и полнотой сохранения критичных элементов. В тестировании на 7 037 примерах при пороге 0,5 указаны F1 0,918, полнота сохранения важных элементов 0,974 и сокращение числа токенов примерно на 18%. Заявлен контекст до 8 192 токенов. Репозиторий включает варианты Core ML, ONNX и safetensors, а карточка описывает запуск Core ML на устройствах Apple Silicon. Обучение охватывало 17 областей, включая диалоги, код, трассы агентов, медицину, финансы, государственные и научные документы, веб-тексты и вызовы инструментов; это не означает одинаково подтверждённое качество для каждого домена. Лицензия — Apache-2.0. Описанные метрики получены на тестовом наборе автора и сами по себе не гарантируют качества на новых данных; подтверждена поддержка английского языка.

LayerSkip Code Llama 7B — модель Meta, представленная Facebook Research, полученная дальнейшим предобучением Code Llama 7B с применением LayerSkip. Она предназначена для генерации и автодополнения программного кода, а также для ускоренного вывода с помощью self-speculative decoding: ранние слои предлагают токены, а оставшиеся слои проверяют их. Модель работает с текстовым вводом и выдаёт текст, в том числе код; карточка указывает английский язык. В README приведён пример измерения на одной GPU NVIDIA A100: self-speculative decoding показал 50,38 токена в секунду против 38,67 при авторегрессионной генерации в указанной конфигурации. Эти результаты зависят от реализации и оборудования. Оптимизированные реализации повторно используют веса и KV-кэш ранних слоёв; вариант через стандартный Transformers описан как менее оптимальный по памяти. Обучающая реализация помечена как находящаяся в разработке. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.

Trelis/Llama-2-7b-chat-hf-function-calling-v2 — языковая модель для генерации текста и вызова функций, разработанная Trelis на основе Llama 2 7B Chat от Meta. Она предназначена для приложений, где модель должна интерпретировать запрос пользователя и возвращать структурированный JSON с именем функции и её аргументами, например для интеграции с внешними API и автоматизации действий. В версии v2 синтаксис вызова функций упрощён: для инференса достаточно передавать описания функций, без дополнительной инструкции. Описания функций вынесены за пределы системного промпта, что должно уменьшать влияние формулировки системных инструкций на поведение при вызове функций. Указаны текстовая модальность и английский язык. Размер модели — 7B параметров; точное значение контекстного окна в README для этой версии не приведено. Модель рассчитана на локальное или самостоятельное развертывание; для повышения качества необходимо предоставлять чёткие описания функций, обязательных аргументов и значений по умолчанию, а также проверять ответ после генерации и запрашивать недостающие данные. Как модель на 7B параметров, она может уступать более крупным моделям в точности вызова функций и сложном рассуждении. Для этой версии указана бесплатная доступность и лицензия Meta Community license.

Sharpaxis/Llama-2-7_Ethical_Guardian — дообученная с помощью QLoRA модель на базе NousResearch/Llama-2-7b-chat-hf, предназначенная для выявления конфиденциальных и чувствительных сведений в тексте. Она ищет персональные данные, API-ключи, финансовую информацию, учётные данные и конфиденциальные сведения компаний, а также может объяснять, почему фрагмент выглядит чувствительным. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и рассчитана на контекст до 4096 токенов. Карточка описывает применение для модерации содержимого, предотвращения утечек данных, проверок соответствия требованиям и аудита текстовых коммуникаций. В метаданных указаны английский язык и лицензия Apache-2.0. Это вспомогательный инструмент для защиты данных; результаты выявления следует проверять, поскольку карточка не приводит оценок качества и не гарантирует обнаружение всех чувствительных сведений. Обучение проводилось на синтетическом наборе synapsecai/synthetic-sensitive-information.

dispatchAI выпустила GGUF-версию Llama 3.2 3B, настроенную для вызова функций и работы на мобильных устройствах. Модель содержит 3,2 млрд параметров; заявленный размер файла — около 2,15 ГБ. В карточке указана скорость около 15 токенов/с на CPU смартфона Samsung Galaxy S20 FE. Модель предназначена для диалоговых сценариев с инструментами: многошаговых агентских рабочих процессов, оркестрации API, интеграции с CRM и ERP, помощи в средах разработки и автоматизации конвейеров данных. Указан английский язык. Формат GGUF рассчитан на локальный запуск в совместимом программном обеспечении. Репозиторий распространяется по лицензии Llama 3.2. Карточка не сообщает результаты сравнительных оценок или ограничения точности; фактическая скорость зависит от устройства и среды запуска.

OpenCSG-CodeLlama-34b-v0.1 — созданная сообществом OpenCSG модель генерации кода, полученная полнопараметрической донастройкой CodeLlama-34b-hf. Это плотная авторегрессионная модель семейства Llama с 33,5 млрд параметров и контекстом до 16 384 токенов; опубликованные веса представлены в формате safetensors. Модель предназначена для генерации и дополнения программного кода. Её можно применять для написания функций по описанию, продолжения фрагментов кода и решения задач программирования; в карточке указано, что обучающие данные охватывают несколько языков программирования, хотя отдельные языки не перечислены. README приводит оценку серии на HumanEval, но показанный фрагмент не содержит результатов именно версии 34B. Модель распространяется по лицензии Llama 2. Результаты генерации зависят от промпта и параметров декодирования; представленных в карточке оценок недостаточно, чтобы судить о качестве версии 34B на разных практических задачах.

Карточка модели open-thoughts/OpenThinkerAgent-8B-RL на Hugging Face совпадает с карточкой zurichquants/OpenThinkerAgent-8B-RL, поэтому описание составлено по ней. OpenThinkerAgent-8B-RL — модель для программной разработки и агентных задач от проекта OpenThoughts-Agent. Это финальный чекпойнт рецепта SFT→RL: модель Qwen3-8B сначала прошла холодное SFT-обучение, затем дообучалась методом обучения с подкреплением на задачах из OpenThoughts-Agent-RL-5K. В метаданных указаны 7,6 млрд параметров, архитектура Qwen3ForCausalLM и контекстное окно 40 960 токенов; веса опубликованы в формате safetensors, библиотека — Transformers. Модель предназначена для работы в среде terminus-2 как агент, который использует терминал, анализирует его вывод и выполняет задачи программной инженерии. Обучение с подкреплением проводилось на задачах набора pymethods2test-large, где решения проверялись тестами в изолированной среде. Лицензия — Apache-2.0. Модель может ошибаться в рассуждениях и командах, включая команды оболочки. Её обучение было ориентировано на распределение задач pymethods2test/SWE-Smith, поэтому качество на других типах задач может быть неравномерным; проверенные результаты бенчмарков для этого чекпойнта не опубликованы.