II.7DevOps, облако и эксплуатация IT-систем
В разделе собраны самостоятельные задачи, где AI помогает развёртывать, наблюдать и оптимизировать цифровые системы и облачную инфраструктуру. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
7 196 моделейDeepSeek-R1-Distill-Qwen-7b-IDKKKK — объединённая языковая модель, созданная автором репозитория с помощью mergekit методом Linear из DeepSeek-R1-Distill-Qwen-7B, Qwen2.5-Coder-7B-Instruct и Qwen2.5-Math-7B-Instruct. Она предназначена для диалоговой генерации текста, решения математических задач и помощи с программным кодом. Модель построена на плотной архитектуре Qwen2 с 7,1 млрд параметров, работает через Transformers и принимает контекст длиной до 131 072 токенов. Объединение сочетает возможности исходных моделей для рассуждений, математики и кода; в метаданных также отмечен интерфейс вызова инструментов. Репозиторий содержит веса в формате safetensors. Языковая поддержка и лицензия в предоставленных данных не описаны.
TeichAI/Gemma-4-31B-Fable-5-Agent-Distill — дообученная на трассах Claude Code и пользовательских диалогах модель Gemma 4 на 31 млрд параметров. Она предназначена для работы в агентных оболочках, включая Claude Code и pi, и помогает генерировать и отлаживать код, планировать архитектуру программ, выполнять многошаговые исследования и решать аналитические задачи. Модель поддерживает диалоговый формат, интерфейс вызова инструментов и анализ изображений; в метаданных указан английский язык. Для запуска README рекомендует актуальную версию Transformers. Разработчик сообщает, что способность к рассуждению оставлена без изменений и что модель оптимизирована дистилляцией трасс Claude Code. Бенчмарки пока не опубликованы, поэтому заявленные возможности не сопровождаются количественной оценкой. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0.
Kimi K3 — открытая мультимодальная модель с весами от Moonshot AI для агентных сценариев, рассуждений и работы с большими контекстами. В карточке указана архитектура Kimi Delta Attention (KDA), Attention Residuals и разреженный MoE с 896 экспертами, из которых активируются 16; размер модели — 2,8 трлн параметров. Модель принимает текст, изображения и видео, а заявленное контекстное окно составляет 1 млн токенов. Модель предназначена для длительных задач разработки, включая анализ больших репозиториев и управление инструментами, а также для исследовательской и аналитической работы с текстом и визуальными материалами. Она поддерживает режим рассуждения с настраиваемым уровнем усилий и предоставляет reasoning_content. Веса выпущены по лицензии Kimi K3 License; подробные условия лицензии в предоставленных материалах не раскрыты.
Liorath-3B-Final — языковая модель на архитектуре Qwen2, созданная методом SLERP-слияния Qwen/Qwen2.5-3B-Instruct и Qwen/Qwen2.5-Coder-3B-Instruct. По метаданным, модель содержит 2,5 млрд параметров, работает с текстом и использует библиотеку Transformers. Модель предназначена для диалогов и генерации текста по инструкциям; слияние с кодовой моделью также делает её применимой к задачам программирования. Контекстное окно составляет 32 768 токенов. Поддержка нескольких языков унаследована от базовой Qwen2.5-3B-Instruct. В репозитории указаны веса Safetensors. Лицензия в предоставленных данных не указана.
LongCat-Flash-Lite-FP8 — языковая модель для генерации текста, разработанная командой Meituan LongCat. Это нерассуждающая модель на архитектуре Mixture-of-Experts (MoE) с 68,5 млрд параметров, из которых при обработке запроса активируется примерно 3 млрд. Модель поддерживает контекст длиной до 256 тысяч токенов благодаря методу YaRN и использует таблицу N-gram embedding объёмом более 30 млрд параметров. Модель предназначена для общего текстового использования, агентских сценариев с применением инструментов и задач программирования. Разработчики отмечают высокую эффективность в агентском взаимодействии и coding-задачах, а также улучшенную скорость и задержку инференса благодаря N-gram Cache и специализированным синхронизированным ядрам. В README не указаны точный список поддерживаемых языков и мультимодальные возможности; по назначению и pipeline_tag модель относится к текстовой генерации. Для запуска через Transformers рекомендуется использовать Python 3.10 или новее, PyTorch 2.6 или новее, Transformers 4.57.6 и Accelerate 1.10.0. Требуется как минимум две видеокарты с 80 ГБ VRAM каждая, например H100 или A100. К ограничениям относятся значительные требования к аппаратным ресурсам, а также отсутствие в представленных данных подробностей о качестве на конкретных языках, мультимодальности и иных аспектах эксплуатации. Модель распространяется по лицензии MIT.
Карточка модели Undi95/Meta-Llama-3-8B-hf на Hugging Face совпадает с карточкой meta-llama/Meta-Llama-3-8B, поэтому описание составлено по ней. Meta Llama 3 8B — авторегрессионная языковая модель Meta с оптимизированной архитектурой Transformer и Grouped-Query Attention. Эта версия принимает текст и генерирует текст, в том числе код. Семейство Llama 3 включает предварительно обученные и дообученные для инструкций модели; карточка этой модели описывает базовый предварительно обученный чекпойнт, пригодный для адаптации к различным задачам генерации текста. Модель предназначена для коммерческого и исследовательского применения на английском языке. Её можно использовать как основу для генерации текста и кода, а после адаптации — для диалоговых сценариев. Выпущена в апреле 2024 года и распространяется по пользовательской коммерческой лицензии Meta Llama 3. Карточка не приводит для этого репозитория конкретную длину контекста; сама модель статична и обучена на офлайн-данных. Для развёртывания приложений разработчикам следует самостоятельно подбирать меры безопасности под свой сценарий.
MidnightCoder-30B — GGUF-сборка модели Qwen3-Coder-30B-A3B-Instruct, подготовленная проектом Midnight Coder для локального запуска в llama.cpp, Ollama и других совместимых средах. Она предназначена для работы в помощниках по программированию и агентных сценариях, а также для обычных задач разработки ПО. Базовая модель разработана командой Qwen (Alibaba); эта сборка не является официальным выпуском Qwen или Alibaba. Модель помогает следовать спецификациям и инженерному процессу: планировать изменения, писать и проверять код, разбирать большие кодовые базы, отлаживать и рефакторить программы, проектировать API и SQL, создавать тесты и документацию. В метаданных указаны архитектурное семейство Qwen3-Coder и задача генерации текста; README рекомендует контексты 8K–32K для проектов разного размера, но нативную длину контекста не приводит. Репозиторий распространяет модель в формате GGUF. Требования к памяти зависят от квантизации, размера контекста, точности KV-кэша и настроек среды запуска; понижение квантизации уменьшает расход памяти и может снижать качество. Ответы могут содержать ошибки, поэтому сгенерированный код следует проверять, особенно в задачах безопасности. Лицензия репозитория — Apache-2.0.
MiniMax-M1-80k — открытая по весам языковая модель компании MiniMax для рассуждений и генерации текста. Она построена на гибридной архитектуре Mixture-of-Experts с механизмом lightning attention и содержит 21,6 млрд параметров согласно метаданным. Модель развита на основе MiniMax-Text-01 и обучалась с использованием масштабного обучения с подкреплением на задачах от математики до программной инженерии. Версия 80k рассчитана на расширенное пошаговое рассуждение с бюджетом мышления до 80 тысяч токенов. Заявленная длина контекста — 10 240 000 токенов; модель предназначена для сложных задач с длинными входами, включая решение математических задач, программирование, анализ кода и работу с инструментами. Поддерживает диалоговый режим и интерфейс вызова инструментов. В README разработчик сообщает о высоких результатах на ряде задач по математике, программированию, использованию инструментов и пониманию длинного контекста; приведённые оценки зависят от методики и настроек генерации. Модель работает с текстом и выдаёт текст, а также структурированные вызовы функций. Лицензия — Apache 2.0. README не уточняет поддерживаемые естественные языки.
Карточка модели NaiveAI/Naive-N0.5-Flash-FP8-Draft на Hugging Face совпадает с карточкой NaiveAI/Naive-N0.5-Flash, поэтому описание составлено по ней. Naive-N0.5-Flash — открытая модель с архитектурой Mixture-of-Experts от разработчиков NaiveAI, предназначенная для программирования и исследований в области ИИ. Карточка описывает продолжение обучения на базе MiMo-V2.5 с архитектурными изменениями; модель обучалась на 3,25 трлн токенов, включая адаптацию к разреженному вниманию. В README указаны 309 млрд параметров всего и 15,5 млрд активных, тогда как метаданные Hugging Face сообщают 12 млрд параметров; эти сведения расходятся. Архитектура внимания сочетает Sliding-Window Attention с окном 128 токенов и DeepSeek Sparse Attention, выбирающим до 2048 токенов. Заявлено нативное контекстное окно в 1 048 576 токенов. Модель принимает текст и генерирует текст, в том числе код; для инференса README указывает поддержку FP8 и необходимость совместимого оборудования NVIDIA. Модель подходит для задач разработки программного обеспечения, агентных сценариев и исследований ИИ. В README заявлены оптимизации скорости в системе NaiveRT, но их показатели относятся к этой системе инференса. Веса и код выпущены под лицензией MIT.
MMOPD/Qwen3-4B-OT3-tau — плотная языковая модель семейства Qwen3 с 3,7 млрд параметров, разработанная MMOPD. Это дообученная версия MMOPD/Qwen3-4B-OT3-2ep: к модели рассуждений добавили supervised fine-tuning на 33 531 траектории Tau2 из inclusionAI/AReaL-tau2-data. Модель сохраняет исходный шаблон чата и режим рассуждений, рассчитана на многошаговое взаимодействие с инструментами и вызовы инструментов в диалоге. Контекст составляет до 32 768 токенов; вход и выход — текст.
Replete-Coder-Llama3-8B — модель общего назначения с дообучением на программировании, созданная Rombodawg на архитектуре Llama 3. Она содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов; модель принимает текстовые инструкции и генерирует текст, включая код. По описанию разработчика, 75% обучающих данных составляли инструкции по программированию, а 25% — инструкции общего назначения; обучение охватывало более 100 языков программирования и включало задачи перевода кода, математики, работы с уязвимостями и вызова функций. Модель предназначена для написания и преобразования кода, помощи в программировании, а также ответов на общие запросы. В метаданных указаны архитектура LlamaForCausalLM, формат safetensors и поддержка диалогового режима. README характеризует обучающие данные как нецензурированные, но не приводит отдельную оценку безопасности или качества. Разработчик не гарантирует производительность при запросах длиннее 8192 токенов. Лицензия в метаданных обозначена как other, без уточнения её условий.
Instruct-12B — языковая модель, созданная hakurei дообучением EleutherAI Pythia 12B deduped на наборе Open-Instruct v1. Она предназначена для следования инструкциям пользователя и задумана как открытая альтернатива моделям серии InstructGPT; автор отмечает, что формат запросов похож на GPT-3.5. Модель построена на архитектуре GPT-NeoX, содержит 15,4 млрд параметров и рассчитана на контекст до 2048 токенов. Модель принимает текст и генерирует текст. Карточка указывает на поддержку английского языка и возможностей следования инструкциям и генерации кода. Для запросов рекомендуется разделять инструкцию, ввод пользователя и ответ двойными переводами строки. Модель распространяется под лицензией Apache-2.0.
Undi95/Nous-Hermes-13B-Code — языковая модель генерации текста на архитектуре Llama с 12,9 млрд параметров. Она создана слиянием Nous-Hermes-Llama2-13b с LoRA-адаптером для кода из jondurbin/airoboros-lmoe-13b-2.1/adapters/code: README указывает веса слияния 0,70 и 0,30 соответственно. Модель предназначена для генерации кода и другого текста по текстовым запросам. Контекст составляет до 4096 токенов; репозиторий содержит веса PyTorch. По приведённым сведениям нельзя установить поддерживаемые естественные языки или конкретные языки программирования. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование. Результаты оценки в README приведены для отдельных бенчмарков и сами по себе не гарантируют качество на пользовательских задачах.
Orythos-9B — мультимодальная модель на 9 млрд параметров, созданная CloudGoat слиянием моделей Qwythos-9B-Claude-Mythos-5-1M и Ornith-1.5-9B методом DARE-TIES на базе Qwen3.5-9B. Она предназначена для диалога, анализа изображений, программирования и агентных сценариев, включая взаимодействие с инструментами. В карточке приведён результат HumanEval pass@1 89%; это заявленный авторами результат на бенчмарке. Модель использует архитектуру Qwen3.5 для генерации текста с обработкой изображений. Репозиторий содержит веса Safetensors и варианты GGUF, включая BF16 и Q4_K_M. Для практического использования доступны диалоговые и визуальные возможности, а также интерфейс вызова инструментов. Модель подойдёт для помощи в программировании и задач, где нужны рассуждения, анализ изображений или агентное взаимодействие. README не описывает языковой охват и длину контекста. Условия лицензии в предоставленных данных не указаны.
Jongbin разработал эту разговорную языковую модель дообучением Qwen/Qwen2.5-Coder-7B-Instruct с помощью TRL. Модель построена на плотной архитектуре Qwen2 и содержит 7,1 млрд параметров; она предназначена для генерации текста в формате диалога. Пример в карточке показывает ответ на вопрос общего характера, а базовая модель ориентирована на генерацию, анализ и исправление программного кода. Модель принимает текст и выдаёт текст. Нативная длина контекста составляет 32 768 токенов; для запуска описан Transformers pipeline. Лицензия в предоставленных данных не указана.
Карточка модели Taewhoo/qwen3.6-27b-proteomics-rl-step10 на Hugging Face совпадает с карточкой Qwen/Qwen3.6-27B, поэтому описание составлено по ней. Qwen3.6-27B — открытая модель с весами от команды Qwen, представленная как постобученная модель в формате Hugging Face Transformers. Это причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров; она поддерживает чат и интерфейс вызова инструментов. Модель предназначена для программирования, агентных сценариев и работы с изображениями, а README также описывает ввод видео. Указанная длина контекста — 262 144 токена с возможностью расширения до 1 010 000 токенов. В README отмечены задачи на уровне репозитория, разработка интерфейсов и сохранение контекста рассуждений между сообщениями. Модель можно запускать через Transformers и использовать с vLLM, SGLang и KTransformers; для высоких нагрузок авторы рекомендуют специализированные серверы инференса. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0.
Qwen3-Coder-30B-A3B-Instruct-MLX-4bit — 4-битная квантованная версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX; модель оптимизирована для запуска на устройствах с Apple Silicon. Модель предназначена для генерации текста и, судя по названию исходной модели, ориентирована на задачи, связанные с программированием, однако README не содержит подробностей о поддерживаемых языках программирования, естественных языках, архитектуре, размере активной части модели, контекстном окне или доступных модальностях. Указан только формат text-generation и 4-битное представление, которое снижает требования к памяти и делает локальный запуск на Apple Silicon более практичным, но может влиять на точность по сравнению с полной версией. Модель распространяется по лицензии Apache-2.0. LM Studio не является создателем исходной модели и не гарантирует её точность, безопасность или пригодность для конкретных задач; результаты могут быть ошибочными или неподходящими и требуют проверки.
Qwopus3.8-27B-Flash — плотная мультимодальная модель на 27 млрд параметров, дообученная разработчиком Jackrong на Qwen/Qwen3.8-27B. Она принимает текст и изображения и предназначена для диалогов, анализа изображений, программирования и многошаговых агентных сценариев с повторными вызовами инструментов. Автор описывает обучение в два этапа: контролируемое дообучение на отфильтрованных примерах и усиление рассуждений с помощью NeMo-RL и GSPO. Модель ориентирована на снижение задержки и затрат рассуждений; в карточке также заявлены ускоренное декодирование и поддержка спекулятивного декодирования MTP. Модель поддерживает английский, китайский, испанский, русский и японский языки. Лицензия — Apache-2.0. Подходит для локального инференса, длительных агентных циклов и задач, где важны скорость ответа и расход вычислительных ресурсов. Выпуск отмечен автором как экспериментальный; широкая оценка безопасности и надежности агентов не проводилась.
Replete-Coder-Instruct-8b-Merged-GGUF — это набор GGUF-квантизаций инструкционной модели для генерации текста и работы с исходным кодом. Базовую модель разработала команда Replete-AI, а квантизации подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска в сценариях программирования, генерации и дополнения кода, а также выполнения текстовых инструкций. Доступны варианты от полноразмерного F32 до низкобитных квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, включая форматы IQ. Размер файлов варьируется примерно от 3 до 32 ГБ, что позволяет выбирать между качеством и требованиями к оперативной памяти. Указано, что наиболее качественные варианты Q6 и Q5, а Q4 предлагают хороший баланс размера и качества. Модель имеет 8 миллиардов параметров; сведения о поддерживаемых языках, размере контекста, архитектуре и мультимодальности в README не приведены. К сильным сторонам относятся широкий выбор квантизаций, возможность локального использования через совместимое программное обеспечение и сохранение высокого качества у вариантов Q6 и Q5. Более компактные варианты экономят память, но могут заметно уступать по качеству, особенно Q2 и Q3. Модель распространяется по лицензии Apache-2.0.
SuperGemma4-26B-Uncensored-Fast v2 — текстовая локальная модель из репозитория Jiunsong, основанная на Google Gemma 4 26B A4B IT. Модель предназначена для запуска на Apple Silicon через MLX и ориентирована на агентские сценарии: генерацию и анализ кода, планирование, использование инструментов, автоматизацию браузера, логические задачи и работу с корейскими запросами. Заявленная особенность — uncensored-поведение без потери устойчивости в коде и tool-use. Модель представлена в формате MLX 4-bit и занимает около 13 ГБ. Поддерживаются текстовые входы и выходы; в README указаны английский и корейский языки. Размер контекста не указан. По приведённым автором быстрым локальным тестам модель получила общий результат 95,8 против 91,4 у исходной Gemma 4 26B IT в 4-bit и показала среднюю скорость 46,2 токена в секунду против 42,5. Наибольшие заявленные улучшения относятся к коду, логике и корейскому языку, однако методика и независимость этих измерений не раскрыты. Сильными сторонами являются сочетание локального запуска, высокой скорости, компактного 4-bit-представления и специализации на практических агентских задачах. Ограничения включают зависимость от экосистемы Apple Silicon и MLX, отсутствие мультимодальности, неизвестный размер контекста и потенциальные риски, связанные с uncensored-настройкой. В метаданных указана лицензия Gemma; README не содержит подробностей о дополнительных условиях её применения.
SuperGemma4 E4B Abliterated — производная от Google Gemma 4 E4B Instruct модель Jiunsong для генерации текста в диалоге. По данным карточки, модель прошла абляцию и дополнительную настройку для улучшения форматирования, качества кода и исправления ошибок, структурированных JSON-ответов и скорости первого токена. Метаданные указывают архитектуру Gemma4ForConditionalGeneration и поддержку чата, следования инструкциям и интерфейса вызова инструментов; исходная Gemma 4 E4B также описана как мультимодальная модель для анализа изображений и обработки аудио, однако в метаданных этой модели подтверждена только задача text-generation. Разработчик позиционирует её для помощников по программированию и отладке, выдачи JSON по схеме и серверных агентных сценариев. В README приведены высокие результаты внутренних оценок, но методика и независимая проверка не описаны, поэтому их нельзя считать гарантией качества. Карточка называет релиз приватным; лицензия указана как Gemma. Ослабление отказов от ответов может влиять на поведение модели в чувствительных сценариях.
ChimeraLlama-3-8B-v2 — языковая модель на архитектуре Llama, созданная mlabonne с помощью LazyMergekit путём слияния шести моделей семейства Llama 3. Она предназначена для генерации текста и диалогового использования, включая ответы на вопросы и написание кода. Модель содержит 7,5 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. В состав слияния входят инструктивные и диалоговые модели, включая NousResearch/Meta-Llama-3-8B-Instruct, OrpoLlama-3-8B и Dolphin 2.9 Llama 3 8B. Карточка приводит результаты оценок Open LLM Leaderboard, в том числе IFEval и BBH. В метаданных указана лицензия other; конкретные условия использования следует сверить с лицензиями исходных моделей. Данные карточки не описывают отдельную специализацию или гарантии качества для конкретных сценариев.
QuantFactory/CodeLlama-7b-Instruct-hf-GGUF — это квантизированная версия CodeLlama-7b-Instruct-hf, разработанная на основе модели codellama/CodeLlama-7b-Instruct-hf. Репозиторий подготовлен с использованием llama.cpp и предназначен для локального запуска модели в формате GGUF. Модель относится к семейству Llama и ориентирована на генерацию текста и работу с программным кодом, включая сценарии инструкционного взаимодействия с разработчиком. В README указано, что исходная модель имеет размер 7 миллиардов параметров. Поддерживаются варианты квантизации Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_0, Q4_K_M, Q4_K_S, Q5_0, Q5_K_M, Q5_K_S, Q6_K и Q8_0, позволяющие выбирать компромисс между качеством, скоростью и требованиями к памяти. Ключевое преимущество модели — возможность более экономичного локального запуска благодаря квантизации и совместимости с llama.cpp. README не содержит сведений о поддерживаемых языках, размере контекста, точных характеристиках отдельных вариантов квантизации, лицензии или ограничениях применения. Также в заголовке README упоминается Mistral-7B-v0.1-GGUF, однако метаданные и описание указывают на CodeLlama-7b-Instruct-hf; поэтому идентификацию модели следует основывать прежде всего на метаданных репозитория.
Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.
Lemur 70B Chat v1 GGUF — это квантизированная версия диалоговой языковой модели Lemur 70B Chat v1, разработанной OpenLemur и опубликованной в формате GGUF командой TheBloke. Модель основана на архитектуре Llama и предназначена для генерации текста в формате text-generation, включая диалоговое взаимодействие и задачи, связанные с программированием. Модель имеет размер 70B параметров, поддерживает английский язык и использует шаблон запросов ChatML с ролями system, user и assistant. Формат GGUF рассчитан на запуск через llama.cpp и совместимые инструменты, включая text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и другие решения для CPU- и GPU-инференса. Доступны варианты квантизации от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством генерации. К сильным сторонам относятся диалоговая настройка, возможности генерации кода и широкий выбор вариантов квантизации для локального запуска. Ограничения включают отсутствие в предоставленных данных сведений о контексте, точных языковых возможностях за пределами английского, результатах тестирования и конкретных требованиях к оборудованию; крупный размер модели также может затруднять запуск на системах с ограниченными ресурсами. В карточке указана лицензия CC BY-NC 4.0. Поскольку модель основана на Llama 2, дополнительно применяются условия лицензии Meta Llama 2; репозиторий указывает на возможное двойное лицензирование, поэтому условия коммерческого и иного использования следует проверять в исходном репозитории OpenLemur.
Llama-3-Groq-70B-Tool-Use-GGUF — набор GGUF-квантизаций модели Llama-3-Groq-70B-Tool-Use, опубликованный bartowski на основе исходной модели Groq. Модель предназначена для генерации текста, использования инструментов и function calling, включая сценарии, где языковая модель взаимодействует с внешними функциями или сервисами. Указан английский язык. Модель относится к семейству Llama 3 и имеет размер 70B параметров. README не содержит сведений о точной архитектуре, длине контекста или поддержке мультимодальности; по указанным данным это текстовая модель без подтверждённой поддержки изображений или других модальностей. Доступны варианты квантизации от F32 до Q2_K и IQ2_M с размерами файлов примерно от 24 до 282 ГБ, что позволяет выбирать баланс между качеством и требованиями к памяти. Для запуска рекомендуются llama.cpp и LM Studio; предусмотрен специальный prompt format на основе шаблона Llama 3. Сильными сторонами являются специализация на tool use и function calling, а также широкий выбор уровней квантизации, включая варианты Q4–Q6, ориентированные на высокое качество при меньшем размере. Ограничениями выступают большие требования к оперативной или видеопамяти даже у квантизированных вариантов и возможное снижение качества при низких уровнях квантизации. Модель распространяется по лицензии llama3; README не уточняет дополнительные условия лицензии.
QuantFactory/Llama-3-Hercules-5.0-8B-GGUF — квантованная версия языковой модели Llama-3-Hercules-5.0-8B, созданная с использованием llama.cpp. Базовая модель основана на Llama-3-8B и дообучена Locutusque на датасете Locutusque/hercules-v5.0. Модель предназначена для генерации текста и использует формат запросов OpenAI ChatML с поддержкой вызовов функций. Модель ориентирована на выполнение сложных многошаговых инструкций, диалоговое взаимодействие, работу с научной и технической тематикой, включая биологию, химию, физику, математику, медицину и компьютерные науки. Она может применяться для специализированных чат-ботов, образовательных ассистентов, генерации кода и сценариев, где требуется выполнение функций через вызовы инструментов. В README не указаны поддерживаемые языки и максимальная длина контекста. Ключевые ограничения включают риск галлюцинаций и фактических ошибок, особенно в специализированных областях, наличие токсичных или вредных примеров в обучающих данных, возможное воспроизведение предубеждений и риск злоупотребления функциональностью вызова функций. Условия распространения обозначены лицензией llama3.
LRM-3.2 — модель рассуждений, разработанная Orion Research и дообученная на базе Qwen3.6-27B. Она предназначена для диалогов, решения задач и многошаговой работы, включая агентные сценарии. Модель сокращает рассуждения во внутреннем ходе мыслей: их длина адаптируется к сложности задачи, а ответы пользователю сохраняют обычную полноту и естественность. Заявленная цель — снизить задержку и расход токенов без ухудшения качества итоговых ответов. Архитектура — плотная Qwen3.5, базовая модель содержит 27 млрд параметров. Дообучение выполнено на наборах ProCreations/grug-think и ProCreations/grug-think-v3-10k с акцентом на траектории рассуждений; README указывает, что токенизатор и длина контекста базовой модели не менялись, но числовое значение контекста не приводит. Модель распространяется в формате safetensors по лицензии Apache-2.0. Описание и примеры сосредоточены на английском языке; поддержка других языков отдельно не заявлена.
M31Genesis — экспериментальная исследовательская модель для агентного программирования, представленная в проекте eshanized/M31Genesis. Это decoder-only causal language model на собственной архитектуре M31, предназначенная для генерации и продолжения текста, прежде всего в задачах разработки программного обеспечения, написания и редактирования кода, отладки, анализа репозиториев, repository-aware reasoning и исследований взаимодействия агентов с инструментами. Модель относится к классу примерно 425M параметров и использует словарь ByteLevel BPE на 65 536 токенов. Архитектура включает 24 слоя, размер скрытого состояния 1024, 16 attention heads и 8 KV heads, RMSNorm, RoPE и связанные входные и выходные эмбеддинги. В карточке указана поддержка английского языка и текстовая модальность; максимальный размер контекста не указан. Сильными сторонами являются специализация на программировании и сценариях агентного использования, однако модель имеет экспериментальный статус, поэтому её качество и надёжность следует оценивать перед применением в production. Лицензия — MIT.
OpenBuddy-deepseekcoder-33b-v16.1-32k — OpenBuddy әзірлеген көптілді чат-модель. Ол LlamaForCausalLM архитектурасына негізделген, dense құрылымды және 33,1 млрд параметрі бар autoregressive модель; Hugging Face карточкасында text-generation міндеті көрсетілген. Карточкадағы атау 32k контекстті меңзегенімен, метадеректерде native контекст ұзындығы 16 384 токен деп берілген. Модель мәтіндік диалог пен кодқа қатысты сұрауларға жауап беруге арналған. Карточкада қытай, ағылшын, француз, неміс, жапон, корей, итальян, орыс және фин тілдері көрсетілген; көптілді чат-сценарийлерде қолдануға болады. Модельдің күшті жақтары — үлкен параметр саны мен бірнеше тілді қолдауы, бірақ README нақты бағалау нәтижелерін сипаттамайды. Лицензия метадеректерде «other», ал README-де «deepseek» деп көрсетілген; пайдалану шарттарын бастапқы лицензиядан тексеру қажет. README модельдің қате, зиянды немесе жағымсыз жауаптар беруі мүмкін екенін ескертеді және медициналық, қаржылық, құқықтық не өзге де жоғары тәуекелді шешімдер үшін пайдаланбауды ұсынады.