II.7DevOps, облако и эксплуатация IT-систем

O2-9B-Preview — языковая модель на 9 млрд параметров, разработанная Ant International и основанная на Qwen3.5-9B. Это плотная архитектура Qwen3.5 для генерации текста в диалоговом режиме, предназначенная для многошагового агентного рассуждения, работы с инструментами, программирования и автоматизации офисных процессов. Модель дообучена методом Runtime OPSD: обучение использует взаимодействия агента с исполняемой средой, инструментами, репозиториями, тестами и проверками результатов, включая наблюдение последствий и исправление неудачных действий. В предварительной оценке авторов она улучшила результаты базовой модели на десяти из одиннадцати тестов, однако это одиночный отчёт без повторных запусков и интервалов неопределённости; на BFCL V4 результат ниже базового. Модель может генерировать ошибочный текст, некорректные вызовы инструментов или небезопасный код; прохождение встроенной проверки не гарантирует правильность результата. Качество зависит от среды выполнения, доступности инструментов и полноты проверок. Карточка не устанавливает основной язык модели. Лицензия — Apache-2.0.

Occamy-1.0 — модель Accio-Lab для длительной совместной работы с инструментами и выполнения многоэтапных задач. Она дообучена на базе Qwen/Qwen3.6-35B-A3B: сохраняет архитектуру исходного чекпойнта с MoE, 35 млрд общих и 3 млрд активных параметров. Модель принимает текст и изображения и предназначена для диалогов, агентных рабочих процессов, программирования, поиска, работы с файлами и структурированными API. Обучение сосредоточено на надёжном выполнении действий, отслеживании состояния, восстановлении после сбоев и продолжении работы в длинных взаимодействиях. Модель поддерживает вызов инструментов и обработку изображений; выпущены веса BF16 и варианты GGUF, а README также упоминает FP8 и NVFP4. Она рассчитана на обычные сценарии совместной работы, но retrieval-задачи и взаимодействие с браузером или рабочим столом через визуальный интерфейс остаются ограничениями. Лицензия — Apache-2.0.

Ornith-1.0-35B-AEON-Ultimate-Uncensored-BF16 — текстовая генеративная модель AEON-7 на основе DeepReinforce AI Ornith-1.0-35B. Это вариант с удалённым поведением отказа, созданный методом abliteration; в карточке заявлено, что при этом сохранены навыки программирования и агентные возможности базовой модели. Модель распространяется в формате BF16, имеет архитектуру MoE семейства Qwen 3.5 с 35 млрд параметров и заявленным контекстом 256 тыс. токенов. README также указывает на унаследованную от базы обработку изображений и видео, хотя основная задача в метаданных — text-generation. Модель предназначена для генерации текста и кода, рассуждений, агентных сценариев и взаимодействия с инструментами. Автор сообщает о результатах внутренних проверок на отказах и задачах программирования; эти оценки приведены в карточке модели и не являются независимым подтверждением качества. Лицензия — MIT. Удаление отказов означает, что модель может выдавать вредоносные или откровенные ответы, включая код и инструкции, которые могут быть запущены внешними инструментами. Результаты генерации могут быть ошибочными; для интеграций с исполнением кода и вызовами инструментов необходим контроль на стороне пользователя.

Ornith-1.5-35B-A3B — разработанная Ornith AI диалоговая модель семейства Ornith-1.5 с архитектурой Qwen3.5 MoE. В модели около 35 млрд параметров, из которых примерно 3 млрд активируются на каждом токене. Она создана для генерации текста, агентного программирования и выполнения задач с помощью инструментов; README сообщает о результатах на бенчмарках кодирования и агентных задач. Модель принимает текст и выдаёт текст, включая структурированные вызовы инструментов. Поддерживает контекст до 262 144 токенов; README описывает расширение окна примерно до миллиона токенов с помощью YaRN, с возможным небольшим ухудшением качества на обычной длине контекста. Для запуска в bf16 требуется около 70 ГБ памяти модели; в примере обслуживания используются две GPU по 80 ГБ. Репозиторий распространяется по лицензии MIT.

Ornith-1.5-9B — плотная языковая модель с 9 млрд параметров, разработанная командой Ornith AI. Она относится к семейству Ornith-1.5 и создана для эффективного развертывания на одной GPU; для мобильных устройств предусмотрен отдельный квантованный вариант Ornith-1.5-9B-Mobile. Модель предназначена для генерации текста, программирования и решения задач, требующих многошагового рассуждения и работы с инструментами. В основе обучения лежит расширенный цикл самоулучшения: модель совместно оптимизирует генерацию задач, построение scaffold и rollouts решений с использованием reinforcement learning. В отличие от подхода с фиксированным набором созданных людьми задач и вручную разработанными harness, система автоматически генерирует новые тренировочные задачи и ищет эффективные стратегии их решения. Ornith-1.5 развивает Ornith-1.0, который был построен на базе Qwen3.5 и Gemma4 с дополнительным continued pretraining, mid-training и post-training. К сильным сторонам относятся компактный для современных моделей размер, возможность развертывания на одной GPU и заметные результаты в задачах программирования: в README указаны оценки 70,6 на SWE-bench Verified, 47,5 на SWE-bench Pro и 46,2–47 на Terminal-Bench 2.1 в зависимости от используемого агента. Данные о поддерживаемых языках, размере контекста, мультимодальности и конкретных архитектурных компонентах не приведены, поэтому их характеристики нельзя установить по этой карточке. Модель распространяется по лицензии MIT.

Phind-CodeLlama-34B-v2-Codefuse-CodeLlama-34B-dare-ties — объединённая языковая модель на архитектуре Llama, созданная с помощью LazyMergekit из Phind/Phind-CodeLlama-34B-v2 и codefuse-ai/CodeFuse-CodeLlama-34B. Модель содержит 33,5 млрд параметров, использует формат safetensors и рассчитана на контекст до 16 384 токенов. Модель предназначена для генерации кода и решения задач программирования по текстовым запросам. Она принимает текст и выдаёт текст, включая код; в каталоге для неё подтверждена задача text-generation. README описывает объединение методом dare_ties с параметрами density 0,5, весами 0,6 и 0,4 и типом bfloat16. В карточке не указаны лицензия и конкретные ограничения качества или применения, поэтому условия лицензирования и специальные ограничения по этим источникам определить нельзя.

ggml-org/Qwen2.5-Coder-14B-Instruct-Q8_0-GGUF — это квантизированная версия модели Qwen2.5-Coder-14B-Instruct, преобразованная в формат GGUF командой ggml-org с использованием llama.cpp и проекта GGUF-my-repo. Базовая модель разработана командой Qwen; в предоставленных данных точное название разработчика базовой модели не уточняется. Модель предназначена для генерации текста и работы с исходным кодом, включая сценарии программирования и диалогового взаимодействия. Она ориентирована на запуск через llama.cpp в локальной среде, как в режиме командной строки, так и в виде сервера. Указана поддержка английского языка. Модель является текстовой, имеет 14 миллиардов параметров и использует квантование Q8_0. Архитектура, максимальная длина контекста и полный перечень поддерживаемых языков в README не указаны; пример запуска использует контекст 2048 токенов, но это не подтверждает максимальный размер контекста. К сильным сторонам относятся специализация на задачах программирования, совместимость с экосистемой llama.cpp и возможность локального развертывания в GGUF-формате. Ограничения связаны с необходимостью подходящего оборудования и программной среды для запуска, а также с отсутствием в предоставленных данных подробностей о качестве на бенчмарках, производительности и фактическом языковом охвате. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-32B-abliterated-i1-GGUF — квантизированная GGUF-версия модели TobiasLogic/Qwen2.5-Coder-32B-abliterated, подготовленная mradermacher. Модель предназначена для генерации текста и решения задач, связанных с программированием, включая написание и обработку кода. В метаданных указан английский язык; поддержка других языков, мультимодальность и точный размер контекстного окна не заявлены. Модель основана на варианте Qwen2.5-Coder с 32 миллиардами параметров и распространяется в нескольких форматах квантизации, включая IQ1–IQ4, Q2–Q6 и другие варианты. Это позволяет выбирать между размером файла, скоростью работы и качеством: более компактные варианты требуют меньше памяти, но могут заметно уступать по качеству, тогда как Q4_K_M отмечен как быстрый и рекомендуемый, а Q4_K_S — как сбалансированный по размеру, скорости и качеству. Для использования требуются инструменты, поддерживающие формат GGUF. К сильным сторонам относятся специализация на коде, большое число параметров и широкий выбор квантизаций для локального запуска. Ограничения связаны с потерями качества при низкой квантизации, отсутствием заявленных характеристик контекстного окна и неполной информацией о производительности. Модель описана как abliterated и uncensored, однако конкретные свойства безопасности в README не приведены. Лицензия — Apache-2.0.

mlx-community/Qwen2.5-Coder-32B-Instruct-bf16 — конверсия модели Qwen/Qwen2.5-Coder-32B-Instruct в формат MLX, выполненная сообществом mlx-community с помощью mlx-lm 0.19.3. Это плотная авторегрессионная модель семейства Qwen2 с 32 млрд параметров, предназначенная для генерации кода и диалогового взаимодействия с инструкциями. Она может применяться для написания и объяснения кода, его анализа и исправления, а также для создания кодовых агентов. Контекст модели — до 32 768 токенов; вход и выход представлены текстом. Модель рассчитана на работу с кодом и поддерживает английский язык. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Это преобразованная копия базовой модели, а не самостоятельное дообучение.

unsloth/Qwen3.6-27B-GGUF — это квантизированное распространение открытой модели Qwen3.6-27B, разработанной командой Qwen и подготовленной Unsloth в формате GGUF. Модель предназначена для локального запуска и интеграции через совместимые инструменты инференса, а также для задач агентного программирования, работы с репозиториями, frontend-разработки, рассуждений и использования инструментов. Это причинная языковая модель с vision-энкодером, то есть мультимодальная модель, способная обрабатывать текст и изображения. Она содержит около 27 млрд параметров, 64 слоя и имеет нативный контекст 262 144 токена с возможностью расширения до 1 010 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; заявлена поддержка сохранения контекста рассуждений между сообщениями и улучшенный разбор вложенных объектов при вызове инструментов. Языки в README не указаны. К сильным сторонам относятся большой контекст, возможности работы с изображениями, улучшенная производительность в сценариях агентного кодирования и совместимость с экосистемой Transformers, vLLM, SGLang и KTransformers. Ограничения включают высокие требования к вычислительным ресурсам, особенно при длинном контексте, а конкретные характеристики квантизации и результаты бенчмарков для данного GGUF-варианта в README не приведены. Модель распространяется по лицензии Apache 2.0.

trohrbaugh/Qwen3.6-27B-heretic-ara — производная модель семейства Qwen3.6, опубликованная пользователем trohrbaugh. Это 27-миллиардная плотная модель с языковой частью и энкодером изображений; веса представлены в формате Safetensors и совместимы с Transformers и рядом движков инференса. Карточка описывает изменение модели методом abliteration: в приведённом сравнении доля отказов снизилась с 99 до 4 из 100, а KL-дивергенция относительно исходной модели составила 0,0469. Модель предназначена для диалогов с текстом и изображениями, программирования, работы с репозиториями и сценариев с агентами и вызовом инструментов. Исходная карточка Qwen3.6 указывает контекст 262 144 токена с возможностью расширения до 1 010 000 токенов; для этой производной модели отдельное подтверждение сохранения максимума не приведено. Языки перечислены в опущенной части README, поэтому их нельзя достоверно указать. Модель лицензирована по Apache-2.0. Снижение частоты отказов может означать ослабление встроенных ограничений безопасности; результаты в карточке основаны на небольшом сравнении и сами по себе не подтверждают качество или безопасность в иных сценариях.

tvall43/Qwen3.6-35B-A3B-heretic — созданная сообществом декензурированная версия Qwen3.6-35B-A3B, полученная с помощью Heretic v1.2.0 и метода ablation/abliteration, изменяющего проекции внимания. Это мультимодальная модель семейства Qwen с архитектурой MoE: всего 35 млрд параметров, из которых активируются около 3 млрд; она принимает текст и изображения и генерирует текст. Модель предназначена для диалогов, анализа изображений и задач программирования, включая работу с репозиториями и агентные сценарии с вызовом инструментов. В README приведено сравнение с исходной моделью: на указанной авторами выборке доля отказов снизилась с 86 из 100 до 5 из 100, а KL-дивергенция составила 0,0097. Контекст — 262 144 токена с возможностью расширения до 1 010 000 токенов. Для запуска используются веса safetensors и совместимые с Transformers среды, включая vLLM, SGLang и KTransformers. Модель опубликована по лицензии Apache-2.0. Изменение поведения отказов может приводить к ответам на запросы, которые исходная модель отклоняла; приведённые показатели относятся к оценке автора и не гарантируют качество или безопасность в иных сценариях.

StargazerLabs представила Qwen3.8-23B-Mini-Me-bf16 — уменьшенную плотную мультимодальную модель на архитектуре Qwen3.8-27B. Из исходной модели удалены 12 слоёв: 12–15, 24–27 и 36–39; башня обработки изображений сохранена. Модель распространяется в формате Safetensors с точностью bf16 и предназначена для диалогов, программирования и агентных сценариев, включая длительные беседы, вызов инструментов и следование инструкциям. По внутренним пробам авторов модель работает быстрее и занимает меньше ресурсов, чем Qwen3.8-27B, но немного уступает ей по общим возможностям. Стандартных результатов бенчмарков пока нет. Лицензия — Apache-2.0.

Модель Qwen3.8-27B-ED-5bpw-GGUF опубликована пользователем bakhtin и представляет собой квантованный вариант Qwen3.8-27B в формате GGUF. Автор указывает, что дополнительного дообучения и посттренировки не проводилось; для калибровки квантования использовалась матрица важности, собранная на русскоязычных технических текстах, программировании и формальной логике. Веса основаны на BF16-файле ggml-org/Qwen3.8-27B-GGUF. Модель поддерживает диалог и работу с изображениями: принимает текст и изображения, выдаёт текст. Квантование 5 BPW занимает около 15,92 ГиБ; автор ориентирует запуск на потребительскую видеокарту с 16 ГБ видеопамяти. По README, контекст свыше 90 тысяч токенов практически нецелесообразен из-за падения скорости. Указана лицензия Apache-2.0.

Qwen3.8-27B ThinkingCap Abliterated (MTP GGUF) — GGUF-версия модели, разработанная hotdogs на основе hotdogs/Qwen3.8-27B-thinkingcap-abliterated и дообученная с использованием датасета hotdogs/thinkingcap-sft-qwen38-27b. Модель предназначена для генерации текста, рассуждений, решения задач, следования инструкциям и помощи в программировании, включая сценарии SWE-bench. Она ориентирована на эффективное рассуждение с сокращённым числом токенов и поддерживает запуск через llama.cpp. Модель содержит 27,3 млрд параметров и сохраняет MTP-слой (Multi-Token Prediction) с 15 тензорами. Доступны варианты GGUF F16 размером около 51 ГБ, Q6_K размером около 21 ГБ и Q4_K_M размером около 16 ГБ; Q6_K позиционируется как компромисс между качеством и размером, а Q4_K_M — как наиболее быстрый вариант. В README указано тестирование с контекстом 8192 токена. Языки и набор поддерживаемых модальностей явно не указаны; по описанию это текстовая модель. Сильные стороны — эффективное рассуждение, сохранение MTP при квантовании и высокая производительность на GPQA Diamond, IFEval и SWE-bench в заявленных условиях тестирования. Ограничения включают зависимость качества от выбранной квантовки, значительные требования к памяти и вычислительным ресурсам, а также ограниченность и специфичность приведённых бенчмарков. Модель распространяется по лицензии Apache-2.0.

protogeni/Qwen3.8-27B-Uncensored-W4A16-RTX3090-MTP4 — сервировочно-оптимизированный квантованный чекпойнт семейства Qwen3.8-27B. Модель разработана protogeni на основе Qwen3.8-27B, последовательно преобразованного в uncensored-версию OrcaRouter, квантованный вариант AutoRound W4A16 и данный чекпойнт для инференса. Заявлены английский и китайский языки. Модель предназначена прежде всего для генерации текста, программирования и задач рассуждения, а также для развёртывания на одной видеокарте с поддержкой speculative decoding через MTP4. Vision tower сохранён, однако протестированный профиль на 100 000 токенов рассчитан только на текст. Основная часть трансформера использует W4A16 с группой 128, эмбеддинги токенов имеют формат INT8, а выходные и MTP-головы — калиброванный GPTQ INT4. Для черновой генерации используется словарь из 40 960 токенов. На RTX 3090 Ti с BF16 KV-кэшем и MTP4 заявлена поддержка контекста до 100 000 токенов; измеренная скорость генерации составляет примерно 82,7–128,4 токена в секунду в зависимости от нагрузки. Среди приведённых результатов: 94,77% на GSM8K, 76,14% на MMLU-Pro, 94,51% pass@1 на HumanEval и 90,85% pass@1 на HumanEval+. Сильные стороны модели — высокая производительность на одной 24 ГБ видеокарте, большой текстовый контекст, ускорение speculative decoding и хорошие результаты в математике и программировании. Ограничения включают зависимость от специально исправленного runtime syv-ai и vLLM 0.27.1, необходимость соответствующей настройки MTP4, а также то, что 100K-профиль не использует мультимодальный ввод. Результат на MMMU validation составил 24,56% при 891 ограничении по максимальному числу выходных токенов, поэтому мультимодальные возможности и этот показатель следует интерпретировать осторожно. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-MLX-6bit — 6-битная квантизированная версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen. Квантизация выполнена командой LM Studio с использованием MLX, поэтому модель оптимизирована для запуска на устройствах с Apple Silicon и предназначена для генерации текста, прежде всего в сценариях, связанных с программированием и работой с кодом. Модель основана на исходной Qwen3-Coder-30B-A3B-Instruct; её архитектура, поддерживаемые языки, модальности и размер контекста в README не уточняются. Квантизация снижает требования к памяти и делает локальный запуск более практичным, однако может повлиять на точность по сравнению с исходной версией. Также модель может генерировать неточный, вредоносный или неподходящий контент, поэтому результаты требуют проверки. Для исходной модели указана лицензия Apache 2.0. LM Studio не является создателем или владельцем модели и не гарантирует её точность, безопасность, доступность или соответствие конкретным требованиям.

Qwen3-Coder-480B-A35B-Instruct — большая языковая модель для программирования от команды Qwen. Это причинная языковая модель с архитектурой MoE: всего 480 млрд параметров, из которых при генерации активируются 35 млрд; в метаданных каталога размер указан как 15,4 млрд параметров. Модель обучалась в несколько этапов, включая предобучение и последующее обучение, и распространяется в формате Safetensors под лицензией Apache 2.0. Модель предназначена для генерации и понимания кода, работы с большими репозиториями и агентных сценариев, включая управление браузером. Она поддерживает диалог и интерфейс вызова функций, а карточка рекомендует интеграции с Qwen Code и CLINE. Контекстное окно составляет 262 144 токена; README указывает на возможность расширения до 1 млн токенов с помощью Yarn. Режим рассуждений с включённым thinking модель не поддерживает. Заявленные разработчиком сильные стороны — результаты на агентном программировании и работе с браузером, сопоставимые с Claude Sonnet, и обработка контекста масштаба репозитория. Для развёртывания модели такого общего размера требуются значительные вычислительные ресурсы; точные требования зависят от конфигурации инференса.

mlx-community/Qwen3-Coder-480B-A35B-Instruct-8bit — это 8-битная версия модели Qwen3-Coder-480B-A35B-Instruct, преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm 0.29.0. Исходную модель разработала команда Qwen; карточка указывает базовую модель Qwen/Qwen3-Coder-480B-A35B-Instruct. Модель предназначена для генерации текста и, судя по названию и базовой модели, ориентирована на задачи программирования и работу с инструкциями. Она может использоваться через библиотеку mlx-lm на совместимых системах Apple MLX; поддерживаются загрузка модели, токенизатора и генерация ответов с применением chat template, если он доступен. Архитектура, точное число активных параметров, поддерживаемые языки, модальности и размер контекста в README не указаны, поэтому их нельзя достоверно описать. Ключевая характеристика этой версии — 8-битное представление в формате MLX, что предназначено для запуска модели через экосистему MLX. Ограничения включают отсутствие в карточке подробных сведений о производительности, требованиях к памяти, качестве, контекстном окне и совместимости. Модель распространяется по лицензии Apache-2.0.

Replete-Coder-Llama3-8B-GGUF — это квантизированная версия модели Replete-Coder-Llama3-8B, разработанной Replete-AI и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp и imatrix-квантизации. Модель основана на архитектуре Llama 3 с 8 млрд параметров и предназначена для генерации текста и работы с программным кодом. Модель ориентирована на задачи программирования, генерации и дополнения кода, обработки инструкций, функционального вызова, математических рассуждений и общего диалогового применения. Обучение проводилось на наборах данных с примерами кода, инструкций, диалогов, математических задач и данных по поиску уязвимостей. В README указан шаблон запросов с секциями System, Instruction и Response. Поддерживается только текстовый ввод и вывод; сведения о языках, максимальной длине контекста и точных результатах тестов не приведены. Доступно несколько уровней квантизации GGUF: от Q5 до Q8, с размером файлов примерно от 5,73 до 9,52 ГБ. В README варианты Q5_K_M, Q6_K и Q6_K_L отмечены как рекомендуемые благодаря сочетанию качества и размера, а Q8 ориентированы на максимально высокое качество. Квантизация снижает требования к памяти, но может незначительно влиять на точность по сравнению с исходной моделью; числовые результаты бенчмарков отсутствуют. Использование регулируется лицензией Llama 3 от Meta, обозначенной как license_name: llama-3.

Salience 1 (9B) — плотная мультимодальная модель Vection Labs на архитектуре Qwen3-VL с языковой частью Qwen3-8B и встроенным визуальным энкодером. Она принимает текст, изображения и видео и генерирует текст; заявленное окно контекста достигает 1 млн токенов. Модель рассчитана на техническую помощь, программирование и исследовательские задачи. Основные сценарии — генерация, объяснение, отладка и проверка кода, работа кодовых агентов с инструментами, пошаговые математические рассуждения, визуальные вопросы и анализ документов, диаграмм, графиков и коротких видеороликов. В README заявлены поддержка длинного контекста и режимы управления глубиной рассуждения. Указан английский язык. Модель может уверенно выдавать неверные факты и решения, а сгенерированный код может быть ошибочным или небезопасным. Длинные контексты и видеоролики повышают задержку и расход памяти; аудио не поддерживается. Для модели указана лицензия Apache-2.0.

Это объединённая модель MaziyarPanahi на базе Mistral-7B-Instruct-v0.1 и uukuguy/speechless-code-mistral-orca-7b-v1.0. Модели объединены методом SLERP; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров, веса представлены в safetensors, исходная конфигурация слияния использует bfloat16. Модель предназначена для диалоговых ответов на инструкции и генерации кода на английском языке. Контекстное окно — до 32 768 токенов. Лицензия — Apache-2.0.

Step 3.5 Flash — открытая языковая модель компании StepFun для диалогов, рассуждений, программирования и агентных задач. Карточка описывает разреженную архитектуру Transformer с Mixture of Experts: всего 196 млрд параметров, из которых для каждого токена активируются около 11 млрд. Механизм Multi-Token Prediction предназначен для ускорения генерации, а гибридное внимание с окном 256K токенов рассчитано на работу с длинными контекстами и большими кодовыми базами. Модель предназначена для интерактивного чата, сложного многошагового рассуждения, помощи в разработке и выполнения задач агентами. Карточка приводит результаты на SWE-bench Verified и Terminal-Bench 2.0 и заявляет поддержку запуска через vLLM, SGLang, Transformers и llama.cpp, а также локального развертывания на высокопроизводительном оборудовании. Указанный в карточке сценарий использования — текстовый диалог; метаданные классифицируют модель как генеративную и отмечают возможность чата. В README заявлено окно контекста 256K токенов и высокая скорость генерации, однако реальная производительность зависит от оборудования и программной поддержки: например, для vLLM отмечено отсутствие полной поддержки MTP3. Метаданные указывают 9,8 млрд параметров, тогда как README заявляет 196 млрд параметров всего и 11 млрд активных на токен; эти сведения расходятся. Лицензия — Apache 2.0.

Tiel-Inspired-Coder-9B-GGUF — независимая GGUF-версия модели Ornith-1.5-9B, подготовленная автором репозитория VitreousCut с использованием методики peculiar-ragdoll. Веса не дообучались: применены пользовательская imatrix для динамической квантизации и встроенный Sharp chat template. Модель предназначена прежде всего для генерации и анализа кода, решения задач программирования и рассуждений; базовая модель имеет размер 9B параметров. Поддерживаются английский и китайский языки, основной режим работы — text generation. В каждый файл встроен Sharp template qwen3.8-froggeric-v22.4.1, который включает рассуждения по умолчанию, настраиваемую интенсивность рассуждений и директиву краткости. Доступны варианты квантизации от IQ4_XS до Q8_0 размером примерно от 5,0 до 9,2 ГБ. В README приведены результаты HumanEval: Pass@1 93,3% в основном запуске и 95,1% после повторного запуска части заданий с увеличенным бюджетом. Для запуска рекомендуются llama.cpp и контекст 32768 токенов. Главное ограничение — склонность к чрезмерно длительным рассуждениям: на сложных или неоднозначных задачах модель может израсходовать весь лимит токенов, не выдав код. Для большинства сценариев рекомендуется reasoning_effort: low; режимы medium и high подходят для задач, где допустимы более долгие рассуждения. Модель распространяется по лицензии MIT.

TripleTrouble-V3 — объединённая разреженная языковая модель семейства Qwen3.5 MoE, созданная OliviaRossi на основе KAT-Coder-V2.5-Dev, Ornith-1.5-35B-A3B и Qwen-AgentWorld-35B-A3B. Она предназначена для генерации текста и диалога, программирования, вызова инструментов и агентных сценариев, включая планирование действий и моделирование переходов состояния среды. Архитектура модели — MoE; в репозитории указаны веса SafeTensors, 2,9 млрд параметров в метаданных и контекст до 262 144 токенов. Карточка описывает объединение специализированных чекпойнтов методами согласования весов и калибровки маршрутизатора экспертов. Заявлены навыки работы с кодовыми базами, структурированным JSON, многошаговыми вызовами API и состояниями сред. Метаданные указывают поддержку английского и китайского языков, а также интерфейс для вызова инструментов. Лицензия — Apache-2.0. Размер в README (34,7 млрд параметров всего и около 3,3 млрд активных на токен) расходится с метаданными, где указано 2,9 млрд параметров; поэтому размер следует считать неоднозначным. Заявления карточки о качестве и скорости не сопровождаются приведёнными результатами оценки. Это текстовая модель: сведения не подтверждают обработку изображений, аудио или видео.

Yi-Coder-1.5B-Chat — диалоговая модель для генерации кода и помощи в программировании, выпущенная 01.AI. Она основана на плотной архитектуре Llama и содержит 1,3 млрд параметров; модель доступна в формате Safetensors и рассчитана на работу через Transformers. Модель принимает текстовые запросы в формате чата и генерирует текст, включая программный код. Семейство Yi-Coder предназначено для понимания длинного контекста до 128K токенов и поддерживает 52 основных языка программирования. Это позволяет использовать модель для написания и объяснения кода, а также работы с большими фрагментами программ. Лицензия — Apache-2.0.

Code Llama 13B Instruct — авторегрессионная плотная Transformer-модель Meta для генерации и понимания кода. Репозиторий содержит версию с настройкой на выполнение инструкций в формате Transformers; модель насчитывает 12,9 млрд параметров и поддерживает контекст до 16 384 токенов. Модель предназначена для дополнения и заполнения кода, ответов на инструкции и диалогового взаимодействия при разработке кодовых помощников. Она принимает текст и генерирует текст, работает с английским языком и языками программирования. Это instruct-вариант семейства Code Llama, основанный на CodeLlama-13b-hf. Модель может выдавать неточные или нежелательные ответы; перед внедрением следует проверить её поведение для конкретного применения. Использование регулируется лицензией Meta Llama 2.

DeepSeek-R1-0528-Qwen3-8B-GGUF — это GGUF-версия языковой модели DeepSeek-R1-0528-Qwen3-8B, подготовленная Unsloth на базе модели DeepSeek AI. Модель ориентирована на задачи, требующие рассуждений, включая математику, программирование, общую логику и работу с функциями, а также на сценарии локального запуска через совместимые инструменты, например Ollama и llama.cpp. Модель содержит 8 миллиардов параметров и распространяется в формате GGUF. В README указаны улучшения глубины рассуждений, качества вывода на математических и логических тестах, снижение частоты галлюцинаций, расширенная поддержка function calling и улучшенный опыт vibe coding. Рекомендуется использовать температуру 0,5–0,7, оптимально 0,6, и Top_P 0,95. Сведения о точной архитектуре, поддерживаемых языках, модальностях и размере контекста в карточке отсутствуют. Формат GGUF удобен для локального вывода и позволяет выбирать варианты квантования, однако конкретный уровень квантования зависит от используемого файла и в данной карточке не указан. Для корректной работы требуется соблюдать рекомендованный chat template и настройки инференса. Модель распространяется по лицензии MIT.

Dolphin 2.5 Mixtral 8x7b — дообученная модель разработчика Eric Hartford на базе Mixtral-8x7b, обучение которой спонсировала Convai. Это разговорная языковая модель для генерации ответов и кода; автор отмечает её хорошее качество в задачах программирования и высокую готовность следовать инструкциям. Модель использует архитектуру Mixtral MoE и формат диалогов ChatML. В README указано дообучение с контекстом 16 000 токенов; базовая модель поддерживает 32 000 токенов. Метаданные указывают 7,1 млрд параметров, форматы PyTorch и Safetensors и поддержку английского языка. Модель обучалась методом qLoRA на смесях разговорных и кодовых датасетов, включая Dolphin, OpenHermes, Synthia, PureDove и MagiCoder. По заявлению автора, она не проходила DPO-настройку и намеренно не ограничивает ответы по соображениям безопасности. Для публичного сервиса автор рекомендует отдельно реализовать слой согласования и безопасности. Лицензия — Apache-2.0.

Dracarys2-Llama-3.1-70B-Instruct — текстовая модель Abacus.AI, дообученная на основе meta-llama/Meta-Llama-3.1-70B-Instruct для улучшения результатов в задачах программирования. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров; она принимает текст и поддерживает диалоговый формат Llama 3 Instruct. Заявленная длина контекста — 131 072 токена. Модель предназначена для генерации кода, анализа кода, предсказания результатов тестов и решения общих задач с инструкциями. В приведённых авторами оценках LiveCodeBench она показала более высокие результаты базовой модели в генерации кода и предсказании вывода тестов; показатели зависят от задачи и режима оценки. Доступна в формате Safetensors для Transformers. Лицензия — Llama 3; перед использованием следует соблюдать её условия.