II.7DevOps, облако и эксплуатация IT-систем

Qwen2.5-Coder-3B-Instruct-Q8_0-GGUF — языковая модель для генерации текста и работы с программным кодом, разработанная командой Qwen и представленная в формате GGUF сообществом ggml-org. Это конверсия базовой модели Qwen/Qwen2.5-Coder-3B-Instruct, выполненная с использованием llama.cpp и проекта GGUF-my-repo. Модель предназначена для генерации и продолжения кода, ответов в диалоговом формате и других сценариев, поддерживаемых исходной instruct-моделью. Она может запускаться локально через llama.cpp в режиме командной строки или как сервер. Размер модели составляет 3B параметров, а вариант Q8_0 использует 8-битное квантование. В метаданных указаны текстовая генерация и английский язык; сведения о других языках, контекстном окне и точной архитектуре в представленном README отсутствуют. Основные преимущества — локальный запуск, совместимость с llama.cpp и сниженные требования к памяти по сравнению с полноразмерной моделью благодаря квантованию. Ограничения включают небольшой по современным меркам размер и возможное снижение качества из-за квантования; подробные результаты тестирования и ограничения исходной модели в README не приведены. Модель распространяется по лицензии qwen-research; для точных условий следует обратиться к указанному файлу лицензии исходной модели.

MaziyarPanahi/Qwen3-Coder-Next-GGUF — это набор файлов модели в формате GGUF для Qwen3-Coder-Next, исходно разработанной командой Qwen. Квантованные версии подготовил MaziyarPanahi. Модель предназначена для генерации текста и, исходя из названия исходной модели, ориентирована на задачи, связанные с программированием, однако подробные сведения о специализации и результатах оценки в README не приведены. Главная характеристика этой версии — распространение в формате GGUF с вариантами квантования 2-, 3-, 4-, 5-, 6- и 8-бит. Формат поддерживается llama.cpp и рядом совместимых приложений и библиотек, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие, что позволяет запускать модель локально с использованием CPU или GPU в зависимости от конкретного инструмента. Размер исходной модели, архитектура, поддерживаемые языки, модальности и размер контекста в README не указаны. Лицензия также не указана, поэтому условия использования следует уточнять в материалах исходной модели Qwen3-Coder-Next и репозитории квантованной версии.

Shark-Coder — слитая модель генерации текста для задач программирования, созданная powermove72 с помощью LazyMergekit на основе powermove72/Shark-1 и S-miguel/The-Trinity-Coder-7B. В конфигурации объединены слои 0–15 Shark-1 и слои 16–31 The-Trinity-Coder-7B методом passthrough; для токенизатора используется union, а веса представлены в FP16 формате safetensors. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации и дополнения кода. Метаданные каталога также характеризуют базовую модель как подходящую для логических рассуждений и решения задач по программированию; отдельные языки программирования или естественные языки не перечислены. Лицензия в предоставленных данных не указана.

Tiel-Coder-35B-A3B-MLX-oQ4e-MTP — локальная кодовая модель, опубликованная peculiar-ragdoll. Она основана на Ornith-1.5-35B-A3B от ornith-ai и представляет собой его повторно квантизированную версию с помощью oMLX oQ4e, встроенным Sharp chat template и обученной головой multi-token prediction (MTP). Модель относится к семейству MoE с заявленным размером 35B-A3B, поддерживает текстовые и визуальные входы, а среди языков указаны английский и китайский. Размер контекста в README не указан. Модель предназначена прежде всего для agentic coding: исправления реальных проблем в кодовых базах, работы с репозиториями и длительных многоходовых диалогов. По приведённым измерениям GGUF-версии она показывает сильные результаты в SWE-bench-Live и multi-turn задачах, однако эти показатели нельзя напрямую считать результатами данного MLX-файла. Для экзаменационных знаний, викторин и сложного общего рассуждения модель подходит хуже: в README отдельно отмечены слабые результаты на trivia и более низкий показатель MMLU-Pro по сравнению с альтернативной моделью Nail. Для работы с MTP-версией рекомендуется runtime oMLX на Apple Silicon; зрение включено в тот же каталог, отдельный projector-файл не требуется. LM Studio для этой сборки не поддерживается: его MLX-движок некорректно исполняет MTP head и генерирует бессмысленный многоязычный текст. Для LM Studio следует использовать GGUF-версию или MLX-сборку без MTP. Лицензия — MIT.

TroyDoesAI/Codestral-21B-Pruned — прореженная версия Codestral, созданная TroyDoesAI. Из исходной модели удалены два слоя: автор сообщает, что размер сократился с 22,2 до 21,5 млрд параметров без заметной потери качества. Метаданные указывают 21,3 млрд параметров, архитектуру MistralForCausalLM и контекст до 32 768 токенов. Модель предназначена для генерации текста и кода, в том числе для локального запуска при ограниченной памяти. Репозиторий содержит веса Safetensors для библиотеки Transformers. Указана лицензия Apache-2.0. Карточка не приводит результатов тестов, поэтому заявление о сохранении качества не подтверждено сравнительными оценками.

CyberNeurova-DeepSeek-V4-Flash-abliterated-GGUF — экспериментальная исследовательская версия DeepSeek-V4-Flash, разработанная CyberNeurova. Это permanently-abliterated модель, в которой изменения, снижающие склонность к отказам, встроены непосредственно в веса во время конвертации. Модель упакована в формат GGUF для запуска через специализированную экспериментальную ветку llama.cpp, поддерживающую DeepSeek-V4-Flash. Модель предназначена для генерации текста, программирования, рассуждений, поиска ошибок, кибербезопасностных исследований и сценариев с вызовом инструментов. По заявлению автора, версия v2 показывает 99,2% соответствия формату tool calling, 85,0% эффективности в поиске ошибок, 90,0% соответствия в задачах hacking и cyber-weapons compliance, а также низкий уровень отказов на указанных тестах. Архитектура основана на 284-миллиардной FP8 MoE-модели DeepSeek-V4-Flash; поддерживаемая модальность — текст, язык README указывает английский. Размер контекста в карточке не указан. Доступны варианты Q2_K размером около 98,8 ГБ и Q8_0 размером около 282 ГБ. Для Q2_K рекомендуется не менее 128 ГБ RAM, для Q8_0 — около 320 ГБ; GPU необязателен. Q2_K практичнее для рабочих станций, а Q8_0 ориентирован на максимальное качество и исследования. Ограничения включают экспериментальный статус, зависимость от специальной ветки llama.cpp, необходимость корректной stop-последовательности и высокие требования к памяти. Модель распространяется по лицензии MIT.

stojchet/d5 — дообученная модель на 1,3 млрд параметров на основе deepseek-ai/deepseek-coder-1.3b-base, обученная на датасете generator. Она использует плотную архитектуру семейства Llama и предназначена для генерации и продолжения кода. Модель принимает текстовые запросы и выдаёт текст, включая фрагменты кода; контекст составляет до 16 384 токенов. Модель подходит для автодополнения кода и генерации кода по текстовому описанию. Репозиторий содержит веса в формате safetensors. Лицензия указана как other, поэтому конкретные условия использования следует проверять в карточке и сопутствующих документах модели.

Granite-TimeSeries-TTM-R1 — компактная предобученная модель TinyTimeMixer для прогнозирования многомерных временных рядов, разработанная IBM Research. Вариант R1 обучен на 250 млн публичных обучающих примеров; в метаданных указано около 1 млн параметров. Модель поддерживает прогнозирование без дообучения и дообучение на данных целевого ряда, в том числе с независимой обработкой каналов или смешиванием каналов, а также с использованием экзогенных переменных и категориальных признаков. Доступны варианты для контекста длиной 512 или 1024 временных точек с прогнозом до 96 точек вперёд. Модель рассчитана на данные с минутной и часовой частотой, например с интервалом 10 минут, 15 минут или 1 час, и может запускаться на одной GPU или ноутбуке. README указывает, что R2 обучен на большем наборе данных и обычно показывает лучшие результаты, но выбор версии зависит от распределения целевых данных. Модель распространяется по лицензии Apache-2.0.

Nxcode-CQ-7B-orpo-IMat-GGUF — это набор квантизованных GGUF-вариантов модели NTQAI/Nxcode-CQ-7B-orpo, подготовленный legraphista с использованием llama.cpp версии b3067. Модель предназначена для генерации текста и, судя по тегу code и названию исходной модели, ориентирована прежде всего на задачи, связанные с программным кодом. README не содержит точных сведений о поддерживаемых языках, контекстном окне и перечне специализированных сценариев. Исходная модель имеет размер 7B параметров и исходный формат BF16. Доступны варианты от BF16 и F16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K, IQ4 и IQ3; размеры файлов составляют примерно от 3,05 до 14,50 ГБ. Для ряда низкобитных вариантов применена IMatrix-квантизация с использованием указанного калибровочного набора, что позволяет выбирать между качеством и требованиями к памяти. Файлы представлены в формате GGUF и предназначены для запуска в совместимой инфраструктуре, включая llama.cpp. Главные преимущества — широкий выбор уровней квантизации, возможность локального запуска и снижение требований к памяти по сравнению с полноразмерными вариантами. Ограничения связаны с тем, что квантизация может влиять на качество генерации, а README не приводит результатов оценки, сведений о мультимодальности или точных характеристик архитектуры. Для модели указана лицензия tongyi-qianwen-research; в качестве ссылки на условия лицензии приведён документ CodeQwen1.5-7B.

Карточка модели openchat/openchat_8192 на Hugging Face совпадает с карточкой openchat/opencoderplus, поэтому описание составлено по ней. OpenCoderPlus — языковая модель для генерации кода из серии OpenChat, разработанной командой OpenChat. Она дообучена на базе StarCoderPlus и предназначена для продолжения и генерации кода, а также для диалога в формате User/Assistant. Модель использует архитектуру GPTBigCodeForCausalLM, принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. Карточка сообщает об оценках на Vicuna GPT-4 и AlpacaEval, однако не приводит подробностей методики для задач программирования. Для диалогов используется шаблон с маркерами User, Assistant и специальным токеном конца хода. Репозиторий содержит веса PyTorch. README рекомендует загружать модель в формате bfloat16. Лицензия в предоставленных данных не указана.

shisa-ai/Ornith-1.0-35B-FP8-BLOCK-MTP — производный чекпойнт модели Ornith-1.0-35B, опубликованный Shisa AI. Он основан на shisa-ai/Ornith-1.0-35B-FP8-BLOCK и предназначен для ускорения генерации текста с помощью speculative decoding и механизма MTP (Multi-Token Prediction). Модель ориентирована на задачи генерации кода, рассуждений и агентских сценариев, поддерживаемые базовой моделью и совместимым сервером инференса. Основные веса сохранены в формате FP8_BLOCK с использованием compressed-tensors, а MTP-голова добавлена в формате BF16. В чекпойнт включены 19 тензоров mtp.*; обучение или дистилляция не выполнялись — использована прямая graft-операция с MTP-головой от Qwen/Qwen3.6-35B-A3B. Размер базовой модели составляет 35B параметров; в метаданных также указана MoE-архитектура. Сведения о поддерживаемых языках и точном размере контекстного окна в README не приведены, хотя в локальном тестировании использовался лимит 32768 токенов. Главное преимущество — повышение пропускной способности при обслуживании через vLLM. В описанном локальном тесте конфигурация с num_speculative_tokens=3 достигла 246,522 выходных токена в секунду против 203,142 у базового режима без speculative decoding, то есть прирост составил 21,4%. При этом увеличивались медианные задержки до первого токена и межтокеновые интервалы, а acceptance снижался с 85,82% при одном спекулятивном токене до 66,98% при трёх. Результаты получены на одной NVIDIA RTX PRO 6000 Blackwell с частными тестовыми данными и могут не воспроизводиться на других аппаратных или рабочих нагрузках. Модель распространяется по лицензии MIT. Для использования MTP требуется совместимая инфраструктура, в частности vLLM с поддержкой соответствующих механизмов и compressed-tensors. README рекомендует повторно измерить производительность на собственном трафике; для чувствительных к задержке или стабильности сценариев следует рассмотреть один спекулятивный токен либо работу без speculative decoding.

Ornith-1.0-35B-NVFP4-GGUF — 35-миллиардная модель семейства Ornith, разработанная DeepReinforce AI и представленная в квантизированном формате GGUF. Она предназначена для генерации кода и работы в роли coding-агента. В основе — дообученная архитектура Qwen3.5 MoE с 40 слоями, 256 экспертами и 8 активными экспертами на токен; модель использует 8 млрд активных параметров на токен и поддерживает контекст до 262 тыс. токенов. Веса BF16 преобразованы в NVFP4-квантизацию с помощью llama.cpp; формат оптимизирован для GPU NVIDIA Blackwell. В README заявлены обучение с подкреплением, нацеленное на генерацию решений и каркаса для их выполнения, и высокая эффективность при развёртывании на одной GPU. Для полного размещения на GPU требуется не менее 20 ГБ видеопамяти, рекомендуется 24 ГБ или больше. Лицензия MIT.

OxCoder-9B-GGUF — GGUF-версия модели OxCoder-9B, разработанной OrionLLM на основе Qwen3.5-9B. Модель предназначена для агентного программирования на длительном горизонте, автоматизации работы в терминале, рассуждений и практических задач разработки программного обеспечения, включая работу со сложными многофайловыми кодовыми базами. Указан английский язык; README также содержит тег image-text-to-text и файл mmproj, однако подробности мультимодальных возможностей не описаны. Модель содержит 9 миллиардов параметров и поддерживает нативное контекстное окно 262 144 токена. Она обучалась на дистиллированных агентных траекториях, созданных с использованием Fable-5.1 и GLM-5.3 в средах Claude Code, OpenCode и Codex. Среди заявленных сильных сторон — агентное программирование в терминале, фронтенд-рассуждения, понимание UI-логики и архитектуры компонентов, а также восстановление после ошибок с чтением перед записью и минимальными изменениями на основе диагностик LSP. В README приведены высокие результаты на Terminal-Bench 2.1, SWE-bench Verified, SWE-bench Pro, GPQA Diamond и ClawEval, но методика оценки не раскрыта. Модель выпускается в нескольких вариантах квантования GGUF, включая BF16, Q3, Q4 и Q5, с размером файлов примерно от 4,26 до 17,9 ГБ; это позволяет выбирать между качеством и требованиями к памяти. Для запуска рекомендуется llama.cpp. Ограничения включают компактный размер по сравнению с более крупными моделями и отсутствие подробной информации о фактическом качестве, системных требованиях и мультимодальном режиме. Распространяется по лицензии Apache 2.0.

Карточка модели Aidev2006/Pinto-Coder-v1 на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-Next, поэтому описание составлено по ней. Qwen3-Coder-Next — открытая модель семейства Qwen3 от команды Qwen, предназначенная для кодирующих агентов и локальной разработки. Это причинная языковая модель архитектуры MoE с гибридным сочетанием Gated DeltaNet и Gated Attention. В README указано 80 млрд параметров всего и 3 млрд активных; метаданные каталога указывают 2,3 млрд параметров, поэтому точный размер расходится между источниками. Модель рассчитана на генерацию и изменение кода, многошаговые задачи разработки, вызов инструментов и восстановление после ошибок выполнения. Контекстное окно — 262 144 токена; поддерживаются чат и интерфейс вызова инструментов. README описывает её как пригодную для интеграции с CLI и IDE, а также локального развёртывания. Модель работает только в режиме без reasoning и, согласно README, не генерирует блоки ````. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковые коды не включены. Лицензия — Apache-2.0.

unsloth/Qwen2.5-Coder-0.5B-Instruct-bnb-4bit — 4-битная версия модели Qwen2.5-Coder-0.5B-Instruct, разработанной командой Qwen и опубликованной Unsloth. Это компактная каузальная языковая модель, ориентированная прежде всего на генерацию, анализ и исправление программного кода, а также на сценарии разработки и создания code agents. В README указан английский язык; сведения о поддержке других языков отсутствуют. Модель содержит около 0,49 млрд параметров, из которых 0,36 млрд являются неэмбеддинговыми, и поддерживает контекст до 32 768 токенов. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV-проекциях внимания и связанные эмбеддинги слов; применяются 24 слоя и Grouped-Query Attention с 14 головами для Q и 2 для KV. Суффикс bnb-4bit указывает на 4-битное представление, предназначенное для снижения требований к памяти при запуске. Сильными сторонами являются малый размер, длинный контекст и специализация на задачах программирования при возможности использования в ресурсно-ограниченных средах. Ограничениями выступают существенно меньшая ёмкость по сравнению с крупными моделями семейства, отсутствие приведённых в README подробных метрик для данной версии и неуказанные требования к аппаратному обеспечению. В README также присутствует предупреждение не использовать базовые языковые модели для диалогов без дополнительного постобучения, однако карточка данной модели обозначена как Instruct. Лицензия — Apache-2.0.

Карточка модели Wiley2210/Qwen3-Coder-Next на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-Next, поэтому описание составлено по ней. Qwen3-Coder-Next — открытая модель семейства Qwen3 от команды Qwen, предназначенная для кодирующих агентов и локальной разработки. Это причинная языковая модель архитектуры MoE с гибридным сочетанием Gated DeltaNet и Gated Attention. В README указано 80 млрд параметров всего и 3 млрд активных; метаданные каталога указывают 2,3 млрд параметров, поэтому точный размер расходится между источниками. Модель рассчитана на генерацию и изменение кода, многошаговые задачи разработки, вызов инструментов и восстановление после ошибок выполнения. Контекстное окно — 262 144 токена; поддерживаются чат и интерфейс вызова инструментов. README описывает её как пригодную для интеграции с CLI и IDE, а также локального развёртывания. Модель работает только в режиме без reasoning и, согласно README, не генерирует блоки ````. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковые коды не включены. Лицензия — Apache-2.0.

Cisco Time Series Model 1.0 Preview — модель временных рядов от Cisco для безусловного прогнозирования одного временного ряда без дообучения на конкретной задаче (zero-shot). В основе — декодерный трансформер, созданный на базе TimesFM 2.0 и дополненный многомасштабной обработкой контекста. Модель содержит 573,4 млн параметров и распространяется в формате safetensors по лицензии Apache 2.0. На вход подаются два согласованных по времени контекста: грубого разрешения и более детального, причём шаг грубого ряда в 60 раз больше. Каждый контекст может содержать до 512 точек; утилиты из репозитория позволяют подготовить их из ряда одной частоты длиной до 30 720 точек. Модель выдаёт прогноз из 128 значений на детальном разрешении и соответствующие квантили. Модель рассчитана на сценарии прогнозирования временных рядов общего назначения. Её качество может снижаться при короткой истории и при чрезмерном заполнении пропусков последним значением, особенно если таким образом заменено более 30% точек. Квантили пока не откалиброваны и их покрытие не подтверждено строгой оценкой.

Bud Code Millenials 34B — языковая модель для генерации программного кода, разработанная Bud Ecosystem и дообученная для задач программирования. Это плотная авторегрессионная модель семейства Llama с 33,5 млрд параметров; репозиторий содержит веса в формате safetensors, а максимальная длина контекста составляет 16 384 токена. Модель предназначена для генерации кода по текстовому запросу и помощи в программировании. В README указаны результаты HumanEval 80,48 pass@1 и MBPP 74,68, полученные авторами; эти показатели зависят от методики оценки и не гарантируют такой же результат в пользовательских сценариях. Модель может ошибаться и хуже справляться с задачами, не связанными с кодированием. Использование регулируется лицензией Llama 2.

DeepSeek-Coder-7B-Base-v1.5 — базовая языковая модель для кода от DeepSeek, полученная продолжением предварительного обучения DeepSeek-LLM 7B на 2 трлн токенов с задачей предсказания следующего токена. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 6,5 млрд параметров и контекстом 4096 токенов. Она предназначена для генерации и продолжения кода по текстовому контексту, в том числе как основа для дальнейшей адаптации под задачи программирования. Модель принимает и выдаёт текст; карточка не перечисляет поддерживаемые языки программирования или естественные языки. Репозиторий содержит веса в формате safetensors. Указана лицензия other, поэтому условия использования следует проверять в материалах проекта DeepSeek.

JanusCoder-14B-GGUF — это набор квантизированных версий языковой модели JanusCoder-14B, разработанной internlm и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена прежде всего для генерации и работы с исходным кодом, а также для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от BF16 до 2-битных и 8-битных квантований, размер файлов составляет примерно от 6,5 до 29,5 ГБ. Более высокие уровни квантования обеспечивают лучшее сохранение качества, тогда как компактные варианты требуют меньше оперативной памяти, но заметно уступают по качеству. Для большинства сценариев рекомендуются варианты Q4_K_M, Q5_K_M, Q6_K или близкие к ним. В README не указаны архитектура, поддерживаемые языки, длина контекста, дополнительные модальности и точные характеристики исходной модели. Модель удобна для локального инференса на совместимом оборудовании и выбора компромисса между качеством, скоростью и потреблением памяти. Ограничения включают возможное снижение качества при сильном квантовании, отсутствие явно указанного chat template и необходимость проверить настройки исходной модели. Лицензия в предоставленных данных не указана.

Nemotron-3-Nano-30B-A3B-AgentCoder — дообученная Bruno Pistone модель NVIDIA Nemotron-3-Nano-30B-A3B для многошаговых диалогов с инструментами. Она обучена методом GRPO с оценкой по обратной связи от ИИ и предназначена для выбора между ответом, вызовом инструмента и реакцией на его результат в цикле работы агента. Модель использует гибридную архитектуру NemotronHForCausalLM с Mamba-2 и MoE-компонентами; заявленный контекст составляет 262 144 токена. Обучение затронуло около 0,14 % параметров исходной модели с помощью LoRA. Она рассчитана на текстовый ввод и генерацию текста, включая ответы, рассуждения и вызовы инструментов; в метаданных указан английский язык. Подходящие сценарии включают агентные циклы для программирования, управления данными и выполнения команд, а также общие вопросы и ответы, унаследованные от базовой модели. README сообщает о снижении доли чрезмерно длинных ответов в ходе обучения, но не приводит независимой оценки качества. Модель не предназначена для высокочувствительных данных, задач, требующих экспертной сертификации или полной объяснимости, и автономного выполнения необратимых действий без проверки человеком. Для корректной работы требуются доверенная загрузка кода модели и зависимости Mamba-2; лицензия — NVIDIA Open Model License, унаследованная от базовой модели.

opencsg-starcoder2-3b-v0.1 — модель генерации кода от исследовательской команды OpenCSG, полученная полнопараметрической донастройкой StarCoder2. Она предназначена для генерации и дополнения программного кода; исходное семейство обучалось на данных более чем по 80 языкам программирования из The Stack. Модель имеет плотную архитектуру StarCoder2ForCausalLM, содержит 4,2 млрд параметров и поддерживает контекст до 16 384 токенов. В карточке приведён результат 42,68% pass@1 на HumanEval для Python при жадном декодировании; авторы отмечают, что результат зависит от метода декодирования и параметров. Данные бенчмарка ограничены задачами HumanEval и не устанавливают качество для всех языков и сценариев разработки. Указана лицензия BigCode OpenRAIL-M.

Это GGUF-квантование MXFP4 модели llmfan46/Ornith-1.0-35B-uncensored-heretic, опубликованное noctrex. Базовая модель предназначена для генерации кода, агентной работы с репозиториями и вызова инструментов; эта версия сохраняет возможность диалогового взаимодействия и генерации текста. Квантование MXFP4 уменьшает точность представления весов. В карточке нет сведений о поддерживаемых языках, длине контекста и лицензии, поэтому эти характеристики нельзя уточнить. Модель помечена как uncensored и heretic; такие метки указывают на снижение отказов, но README не описывает конкретные ограничения или гарантии поведения.

Ornith-1.5-35B-A3B-REAP-50-GGUF — квантизированная GGUF-версия модели Ornith-1.5-35B-A3B, подготовленная пользователем Ttimms на основе модели от ornith-ai. Это гибридная архитектура Gated-DeltaNet и Mixture-of-Experts (MoE): после 50%-порогового pruning методом REAP число экспертов сокращено с 256 до 128, удалена MTP-голова, а итоговый объём составляет примерно 19 млрд параметров. Модель предназначена для генерации текста и ориентирована прежде всего на англоязычные сценарии. Модель подходит для локального запуска и задач программирования: для исходной модели до квантизации заявлены результаты HumanEval+ 84,2%, MBPP+ 89,2% и SWE-bench Verified 44,0%. Благодаря примерно 3 млрд активных параметров она может обеспечивать быструю инференс-работу на CPU и Apple Silicon. Доступны варианты Q4_K_M, Q5_K_M, Q6_K и Q8_0; рекомендуемый Q4_K_M занимает около 11,4 ГБ, тогда как Q8_0 требует более 16 ГБ памяти или выгрузки части вычислений на CPU. Для запуска требуется свежая версия llama.cpp с поддержкой архитектуры qwen35moe; также подходят LM Studio, KoboldCpp, Jan и text-generation-webui. Поддержка Ollama на момент публикации ожидала обновления встроенного llama.cpp. В README не указаны размер контекста и мультиязычные возможности; заявлен только английский язык. Из ограничений также следует учитывать удаление vision tower и MTP-головы, зависимость от совместимого рантайма и компромисс между качеством и объёмом памяти при выборе квантизации. Модель распространяется по лицензии MIT, унаследованной от базовой модели.

Ornith-1.5-9B-OBLITERATED — модифицированная версия модели Ornith-1.5-9B, разработанной DeepReinforce. Модель подготовлена проектом OBLITERATUS и создана с применением abliteration — хирургического удаления направлений, связанных с отказами модели. Она предназначена для генерации текста, программирования, рассуждений, агентских задач, исследований выравнивания и red teaming, где требуется менее фильтруемое поведение. Заявлена поддержка английского языка. Модель построена на гибридной архитектуре Qwen3.5 с Gated DeltaNet и полноразмерными механизмами внимания и содержит около 9 млрд параметров. Доступны веса bf16 и варианты GGUF от Q2_K до Q8_0; также указан vision encoder, однако возможности мультимодального применения в описании подробно не раскрыты. Поддерживается режим рассуждений, но для общего использования рекомендуется отключать его. Для запуска доступны Transformers и llama.cpp, рекомендуемый размер контекста в примере llama.cpp — 8192 токена. Сильной стороной является существенно сниженная склонность к отказам: в приведённых тестах модель показала высокую готовность отвечать на ограниченные запросы, сохранив результаты в генерации кода и агентских сценариях. Ограничения включают снижение MMLU примерно на 4 процентных пункта относительно базовой модели, частично ухудшенную поддержку function calling, возможные дополнительные отказы в низкобитных квантизациях и риск галлюцинаций в сложных химических и синтетических задачах. Удаление защитных механизмов повышает риски небезопасного использования, поэтому результаты требуют независимой проверки. Лицензия — MIT.

Qwen2.5-Coder-3B-Instruct-abliterated-GGUF — это GGUF-квантизированная версия инструкционной языковой модели для генерации текста и работы с программным кодом. Исходная модель Qwen2.5-Coder-3B-Instruct-abliterated размещена Huihui-ai, а квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для задач программирования, диалогового взаимодействия и генерации текста; в метаданных указан английский язык. Модель имеет размер около 3B параметров, однако сведения о точной архитектуре, поддерживаемых модальностях и размере контекстного окна в README не приведены. Доступно множество вариантов квантизации от F16 до Q3 и IQ4, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Наиболее качественными названы варианты Q6_K_L и Q6_K, а Q4_K_M указан как сбалансированный вариант для большинства сценариев. Для запуска рекомендуется использовать совместимое ПО, включая LM Studio и llama.cpp; предусмотрен специальный chat-шаблон с ролями system, user и assistant. К сильным сторонам относятся компактный размер, поддержка локального запуска и широкий выбор уровней квантизации, включая варианты, оптимизированные для ARM. Ограничения — уменьшение качества в более сильных вариантах квантизации, отсутствие в README данных о результатах тестирования, контекстном окне и полном наборе языков. Модель обозначена как abliterated и uncensored, поэтому её поведение и защитные ограничения могут отличаться от исходной версии. Указана лицензия qwen-research; точные условия следует уточнять в файле лицензии исходной модели.

anchovy/autogluon-chronos-t5-mini — вариант Chronos-T5 Mini для вероятностного прогнозирования временных рядов. Chronos разработан на базе архитектуры T5: история ряда масштабируется и квантуется в последовательность из 4096 токенов, которую модель обрабатывает как языковую последовательность. По метаданным эта версия содержит 9,8 млн параметров и имеет контекст длиной 512 токенов. Модель принимает исторические значения временного ряда и генерирует несколько возможных траекторий будущих значений, формируя прогнозное распределение. Chronos обучался на общедоступных временных рядах и синтетических данных, созданных с помощью гауссовских процессов. Модель подходит для прогнозирования временных рядов; README описывает семейство Chronos, а не конкретную публикацию этого чекпойнта. Репозиторий содержит веса в формате Safetensors. Указана лицензия Apache-2.0. Число параметров в метаданных отличается от значения для Mini в таблице README, поэтому здесь приведено значение из метаданных Hugging Face.

K00B404/BagOMistral_14X_Coders-ties-7B — созданная с помощью mergekit объединённая языковая модель семейства Mistral, разработанная K00B404. Веса объединены методом TIES на основе K00B404/Merged_Beowolx-CodePro_Medusa2-14X-7B-Mistral-I-v0-2 с компонентами Nexusflow/Starling-LM-7B-beta и beowolx/CodeNinja-1.0-OpenChat-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат safetensors; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате, в том числе для задач программирования, опираясь на возможности входящих в объединение моделей. Её можно применять для генерации и дополнения кода, а также для диалоговых ответов. Карточка не приводит результаты оценки качества или подробные сведения о поддерживаемых языках. Лицензия в предоставленных данных не указана.

CodeGemma 2B — компактная языковая модель для генерации и обработки исходного кода, представленная Google и распространяемая в GGUF-квантизации пользователем bartowski. Данная версия предназначена для локального запуска через llama.cpp и поставляется в нескольких вариантах квантизации с разным соотношением качества, размера файла и требований к памяти. Модель ориентирована на задачи программирования и генерации текста; исходная модель codegemma-2b доступна на Hugging Face. В README не указаны точная архитектура, длина контекста, поддерживаемые языки программирования или естественные языки, а также мультимодальные возможности. Формат GGUF и отсутствие специального формата промпта упрощают использование в совместимых локальных инструментах. Размер файлов варьируется примерно от 0,77 до 2,66 ГБ; наиболее качественными и рекомендуемыми названы варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M. Сильная сторона модели — возможность локального запуска на устройствах с ограниченными ресурсами благодаря широкому выбору квантизаций; при этом низкие уровни квантизации заметно уступают по качеству и некоторые из них не рекомендуются. Квантизация выполнена с использованием llama.cpp и imatrix. Для доступа к исходной модели на Hugging Face требуется принять лицензию Google Gemma; применимая лицензия — Gemma.

CodeGemma 7B — модель генерации кода от Google, построенная на базе Gemma. Это предварительно обученная декодерная модель с 7 млрд параметров, рассчитанная на дополнение кода и генерацию кода по текстовым запросам. Для дополнения в редакторе поддерживает заполнение пропусков между префиксом и суффиксом (fill-in-the-middle, FIM); также принимает фрагменты кода и запросы на естественном языке и может выдавать код и текст. Модель обучалась на дополнительных 500 млрд токенов, преимущественно на английском коде из открытых репозиториев, математических наборах данных и синтетически созданном коде. Подходит для автодополнения в IDE, генерации программного кода по описанию и учебных сценариев, связанных с кодом. Это базовый, не настроенный на инструкции вариант CodeGemma, поэтому карточка не заявляет о поддержке чата; для диалоговых сценариев предназначена отдельная версия codegemma-7b-it. Разработчик указывает на общие ограничения больших языковых моделей. Лицензия — Gemma Terms of Use.