II.3Рефакторинг, миграция и модернизация

StarCoder — языковая модель для генерации и дополнения программного кода, разработанная проектом BigCode. Это модель на 15,5 млрд параметров на архитектуре GPT-2 с multi-query attention, обученная на 1 трлн токенов из The Stack v1.2 на более чем 80 языках программирования. Она поддерживает контекст до 8192 токенов и обучалась, в частности, для заполнения пропусков в коде (Fill-in-the-Middle), поэтому подходит для продолжения фрагмента и вставки кода в заданный контекст. Модель предназначена для помощи при написании кода, а не для выполнения инструкций в формате чат-ассистента. Наиболее полезна, когда ей предоставляют исходный код или достаточно контекста; запросы на естественном языке могут работать хуже. Генерируемый код может содержать ошибки, быть неэффективным или небезопасным. Датасет предварительно фильтровали по разрешительным лицензиям, однако модель может воспроизводить фрагменты исходного кода, для которых могут требоваться атрибуция и соблюдение условий лицензии. Лицензия модели — BigCode OpenRAIL-M.

zzzmahesh/starcoder2-3b-instruct — дообученная модель генерации кода на архитектуре StarCoder2, опубликованная пользователем zzzmahesh. Модель обучали на дополнительных 0,7 млрд токенов, связанных с кодом, в течение трёх эпох. Она принимает инструкции в формате Alpaca без системного промпта и предназначена для генерации и дополнения программного кода по запросу. В README указан результат 65,9 pass@1 на HumanEval-Python. Модель содержит 4,2 млрд параметров, работает с контекстом до 16 384 токенов и доступна в формате safetensors для Transformers. Лицензия — BigCode OpenRAIL-M. Карточка предупреждает, что модель может ошибаться и выдавать вводящий в заблуждение результат, слабо справляться с задачами вне программирования и прошла ограниченное тестирование; перед реальным применением рекомендуется дополнительная проверка безопасности.

TechxGenus starcoder2-7b-instruct — дообученная для следования инструкциям модель генерации кода на архитектуре StarCoder2. В README указано, что StarCoder2-7B обучили ещё на 0,7 млрд токенов, связанных с кодом, в течение трёх эпох; размер модели в метаданных — 9,9 млрд параметров. Модель использует формат инструкций Alpaca без системного промпта и рассчитана на контекст до 16 384 токенов. Модель предназначена для генерации и дополнения кода по инструкциям, а также решения задач программирования. Авторы сообщают результат 73,2 pass@1 на HumanEval-Python. В README отмечены ограниченное тестирование, возможные ошибки и вводящие в заблуждение ответы, а также трудности с задачами вне программирования. Лицензия — BigCode OpenRAIL-M.

Self-instruct-starcoder — модель генерации кода, созданная дообучением StarCoder на наборе инструкций Self-instruct-starcoder. Она рассчитана на ответы на запросы в формате «Question: … Answer: …» и на выполнение заданий по программированию. Модель построена на архитектуре GPTBigCode, использует причинную генерацию текста и поддерживает контекст до 8192 токенов. Модель подходит для генерации и дополнения кода по инструкциям. В карточке указана библиотека Transformers и формат весов PyTorch. Сведения о лицензии в предоставленных данных отсутствуют.

Uraion Forge 2B MLX — дообученная Uraion Labs модель на базе openbmb/MiniCPM5-2B, подготовленная для запуска с библиотекой MLX на компьютерах Apple Silicon. Это компактная причинная языковая модель архитектуры LlamaForCausalLM с 2,2 млрд параметров и контекстом до 131 072 токенов. Модель предназначена прежде всего для диалогов, рассуждений, генерации кода и многошаговых сценариев с вызовом инструментов; README описывает режимы с включённым и отключённым рассуждением. Карточка заявляет оптимизацию для локального выполнения на чипах Apple M1–M6 и приводит варианты квантования 4 и 8 бит, а также результаты собственных проверок агентных рабочих процессов, кода и извлечения данных из длинного контекста. Эти показатели относятся к тестам и оборудованию, описанным разработчиком, и не гарантируют такую же скорость или точность в других условиях. Указанный в метаданных формат файлов — safetensors; библиотека — MLX. Лицензия — Apache-2.0. Язык карточки и языковой тег указывают на английский; поддержка других языков в предоставленных данных не подтверждена.

Darkfibre публикует VibeThinker-3B-Ablated — производную компактной плотной языковой модели VibeThinker-3B на базе Qwen2.5-Coder-3B. По карточке, в модели проекцией удалено направление отказа на 11-м слое; заявленная цель изменения — ослабить автоматические отказы в ответах. Модель предназначена для диалогов, рассуждений, математики и программирования. Модель построена на архитектуре Qwen2, содержит 3,1 млрд параметров и поддерживает контекст до 131 072 токенов. Карточка заявляет высокие результаты на тестах по математике и программированию, однако это утверждения автора; независимая проверка в предоставленных данных не описана. Доступны веса в формате Safetensors, запуск предусмотрен через Transformers. Лицензия — Apache-2.0.

WizardCoder-Python-13B-V1.0 — языковая модель семейства Llama, предназначенная для генерации кода Python по инструкциям. Модель содержит 12,9 млрд параметров, имеет контекст до 16 384 токенов и представлена в формате PyTorch для Transformers. Карточка описывает семейство WizardCoder, обученное с использованием Evol-Instruct, но не приводит отдельные сведения о тренировочных данных и результатах именно этой версии 13B. Модель подходит для написания фрагментов Python-кода по текстовым запросам, помощи с программированием и генерации ответов на инструкции о коде. Она принимает текст и генерирует текст; языки естественного общения не заявлены, поскольку в метаданных указан только код. Лицензия — Llama 2; условия её применения определяются этой лицензией.

CAT-LM — языковая модель GPT-стиля, разработанная Nikitha Rao и соавторами для работы с программным кодом. Модель обучена на корпусе проектов Python и Java объёмом около 260 ГБ с сигналом предобучения, который учитывает связь между исходным кодом и тестовыми файлами, если такая связь доступна. Модель предназначена для генерации кода и других задач продолжения текста в контексте разработки программного обеспечения. В README указано 2,7 млрд параметров, а в метаданных Hugging Face — 3,5 млрд; оба источника указывают контекст до 8192 токенов. Архитектура в метаданных обозначена как GPT-NeoX, формат весов — PyTorch. Модель опубликована в рамках исследования на конференции ASE 2023. Сведения о лицензии MIT приведены в метаданных. README предупреждает, что модель обучалась без специального токена `` и его следует удалять при использовании.

CodeFuse-Mixtral-8x7B — языковая модель для программирования, разработанная CodeFuse и дообученная методом QLoRA на базе Mixtral-8x7B-v0.1. В метаданных указаны архитектура Mixtral с механизмом смеси экспертов (MoE), 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации кода и решения связанных с программированием задач в формате текстового запроса и ответа. README приводит результат 56,1% pass@1 на HumanEval при жадном декодировании. Модель использует формат запросов с метками ролей; для подсказок по коду также применяются метки языка, например Python. В карточке указана лицензия «other», без уточнения конкретных условий. Результат HumanEval отражает один тестовый набор и сам по себе не гарантирует качество на других языках программирования и задачах.

Code Llama 7B — базовая авторегрессионная языковая модель Meta с оптимизированной архитектурой Transformer, предназначенная для генерации и понимания кода. Это версия на 7 млрд параметров в формате для Hugging Face Transformers; модель принимает текст и генерирует текст. Модель подходит для автодополнения кода и заполнения пропусков в коде. Она рассчитана на английский язык и языки программирования; режим следования инструкциям и чат для этой базовой версии не предусмотрены. Для специализированной работы с Python и диалогового помощника существуют отдельные варианты семейства. Модель выпущена под лицензией Meta Llama 2. Возможны неточные или нежелательные результаты, поэтому перед внедрением требуется проверка поведения в целевом сценарии.

Bud Code Millenials 13B — языковая модель для генерации кода, разработанная Bud Ecosystem и дообученная для задач программирования. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, рассчитанная на контекст до 16 384 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Модель предназначена для генерации фрагментов кода по текстовому описанию и помощи в программировании. В README заявлен результат 76,21 pass@1 на HumanEval; это показатель из карточки разработчика, приведённый без независимой проверки. Модель может ошибаться и хуже справляться с задачами вне программирования. Лицензия — Llama 2.

Salesforce/codet5p-770m-py — модель CodeT5+, разработанная Salesforce Research для понимания и генерации программного кода. Это плотная модель семейства T5 с архитектурой encoder-decoder и 385,2 млн параметров; карточка описывает семейство как способное работать в режимах encoder-only, decoder-only и encoder-decoder. Модель загружает через T5ForConditionalGeneration и использует токенизатор исходного CodeT5. Контекст составляет 512 токенов. Чекпойнт предварительно обучен на разрешительном подмножестве GitHub Code и ориентирован на код на C, C++, C#, Go, Java, JavaScript, PHP, Python и Ruby. Он подходит для генерации кода по текстовому описанию, дополнения кода, поиска соответствия между текстом и кодом и других задач понимания кода. В zero-shot тесте HumanEval показал 15,5% pass@1. Лицензия — BSD-3-Clause. Разработчики позиционируют выпуск как исследовательский и рекомендуют проверять точность, безопасность и справедливость перед внедрением; качество для конкретных прикладных сценариев требует отдельной оценки.

ColBERT-Zero-6L-CodeSearch — компактная модель для семантического поиска по коду, созданная разработчиком ctrltokyo на основе lightonai/ColBERT-Zero. Она использует архитектуру ModernBERT с 6 слоями, 768 скрытыми измерениями и 12 головами внимания; число параметров — 68,8 млн, контекст — до 8192 токенов. Модель формирует много-векторные представления токенов размерности 128 и предназначена для поиска и ранжирования фрагментов кода по текстовому запросу. Модель получена дистилляцией: из 22-слойной модели ColBERT-Zero выбраны 6 слоёв, а обучение на 10 000 парах CodeSearchNet воспроизводило оценки релевантности учителя. В описанных тестах качество достигло 65,9% от учителя на корпусе jq на C, 85,6% на Rails и 98% на FastAPI; автор сообщает о примерно 13-кратном ускорении запросов. Модель поддерживает английский язык и может использоваться для поиска по коду, в том числе через PyLate и litembeddings. Лицензия — Apache-2.0. Ограничения: качество слабее на C-коде, обучение проведено на сравнительно небольшом наборе данных, а возможности модели наследуют языковые ограничения ColBERT-Zero. Вместо префиксов search_query:/search_document: используются [Q]/[D].

CrystalChat — англоязычная инструкцияная языковая модель от LLM360 из серии Pebble, дообученная на основе LLM360/Crystal с контрольной точки CrystalCoder второго этапа. Модель имеет плотную архитектуру CrystalCoder, совместимую по описанию с LLaMA-7B, и рассчитана на генерацию текста по инструкциям, диалог и задачи программирования. Контекст модели составляет 2048 токенов; доступен формат PyTorch. Модель обучалась на смесях диалоговых, общих инструкционных и кодовых данных, включая наборы SlimOrca, ShareGPT, CodeAlpaca и данные по программированию; в обучении также использован созданный LLM360 набор инструкций по HTML. В карточке приведены результаты языковых и кодовых бенчмарков, включая HumanEval и MBPP. Модель ориентирована прежде всего на английский язык. CrystalChat выпущена под лицензией Apache 2.0. Разработчики отмечают, что модель не прошла RLHF-выравнивание по человеческим предпочтениям и не имеет фильтрации ответов, поэтому может выдавать проблемный контент; приведённые оценки не гарантируют качество для конкретного применения.

ELYZA-japanese-CodeLlama-7b-instruct — компания ELYZA дообучила на базе Code Llama дополнительным предварительным обучением, чтобы расширить поддержку японского языка. Это плотная авторегрессионная модель семейства Llama для генерации текста, включая ответы на инструкции и создание кода. Модель содержит 6,6 млрд параметров и поддерживает контекст длиной до 16 384 токенов. В карточке указаны японский и английский языки. Модель подходит для генерации и объяснения кода, а также для ответов на текстовые запросы на японском и английском языках. Модель распространяется в формате safetensors по лицензии Llama 2. Карточка не приводит оценки качества или подробные ограничения; результаты генерации кода и фактические ответы следует проверять.

Nickrosh/Evol-Replit-v1 — языковая модель для генерации кода, созданная дообучением ReplitLM на наборе Evol-Instruct-Code-80k-v1. Инструкции в наборе основаны на Code Alpaca 20k и усложнены с помощью эволюционных промптов: они добавляют требования, меняют требования к временной и пространственной сложности и включают примеры с ошибочным кодом для повышения устойчивости ответов. Модель предназначена для генерации кода по инструкциям и решения задач программирования с более подробными и сложными требованиями. В метаданных указаны архитектура MPT и класс MPTForCausalLM; формат файлов — PyTorch. Модель опубликована под лицензией CC BY-SA 4.0. README не приводит численный размер модели, длину контекста или список поддерживаемых языков.

FuseO1-DeepSeekR1-Qwen2.5-Coder-32B-Preview-GGUF — GGUF-квантизированная версия текстовой генеративной модели FuseO1-DeepSeekR1-Qwen2.5-Coder-32B-Preview. Квантизацию выполнил bartowski с использованием llama.cpp версии b4514 и метода imatrix. Модель предназначена для генерации текста, включая сценарии программирования и работы с кодом; запуск возможен, в частности, через LM Studio и совместимые инструменты llama.cpp. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать баланс между качеством, размером файла и требованиями к памяти. Размер полной BF16-версии составляет около 65,54 ГБ, а варианты квантизации занимают примерно от 17,69 ГБ и выше. Для корректного общения README рекомендует специальный формат промпта с маркерами начала последовательности, пользователя и ассистента. Модель имеет сильные стороны в виде большого размера 32B, нескольких вариантов квантизации и поддержки локального запуска. При этом README не содержит точных сведений о контекстном окне, языках, мультимодальности, результатах оценки или ограничениях исходной модели. Репозиторий сохраняет старую версию весов; обновлённые веса опубликованы отдельно. Лицензия в предоставленных данных не указана.

Это объединённая модель семейства Gemma 4 Unified, созданная автором репозитория tepirale с помощью mergekit. В качестве основы использована google/gemma-4-12B-it; методом DARE TIES объединены также модели tepirale/gemma-4-12B-coder-fable5-composer2.5-v1-safetensors-yuxinlu1 и tepirale/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2-safetensors-yuxinlu1. Веса сохранены в формате safetensors, тип данных — bfloat16. Модель предназначена для генерации текста по текстовым и визуальным входам, включая сценарии, сочетающие агентные возможности и генерацию кода. Метаданные указывают поддержку image-text-to-text и vision; базовая Gemma 4 поддерживает диалог, анализ изображений, видео и аудио, однако README этой объединённой модели не подтверждает отдельно все эти возможности. Для модели не приведены результаты оценки качества или подробные инструкции по применению. Лицензия в предоставленных данных не указана.

GlaiveAI разработала Glaive-coder-7b — плотную авторегрессионную языковую модель семейства Llama для помощи в программировании. Модель содержит 6,6 млрд параметров и дообучена на CodeLlama-7b на наборе примерно из 140 тысяч синтетически созданных задач и решений по программированию. Модель предназначена для генерации и объяснения кода, выполнения отдельных инструкций и многоходовых диалогов с помощником по коду. Она принимает текстовые запросы и выдаёт текст, включая программный код; заявленная длина контекста — 16 384 токена. В README приведены результаты pass@1: 63,1% на HumanEval и 45,2% на MBPP, при этом авторы отмечают, что эти тесты не полностью отражают использование в реальных условиях. Модель распространяется по лицензии Llama 2. Результаты для конкретных языков программирования и качество на практических задачах в предоставленных материалах не уточняются.

ISOM-R1-Coder-1.5B-Instruct — компактная модель для генерации и анализа кода, разработанная Prannessh K.V.A. на основе Qwen2.5-Coder-1.5B-Instruct. Это плотная модель на 1,5 млрд параметров с диалоговым интерфейсом и контекстом до 131 072 токенов. Карточка описывает её как средство для понимания репозиториев и работы с длинными контекстами на устройствах с ограниченными ресурсами; также заявлена ограниченная по памяти обработка KV-кэша. Модель предназначена для вопросов по кодовой базе, извлечения сведений из длинного контекста и агентных сценариев разработки. В README приведены результаты сравнений на Tesla T4 и теста поиска в контексте; это утверждения автора карточки, а не независимо подтверждённые характеристики. Лицензия репозитория указана как CC BY-NC-ND 4.0; README также сообщает об использовании базовой модели под Apache 2.0.

KAT-Coder-V2.5-Dev-OptiQ-4bit-REAP-18B — это квантованная модель для генерации текста и кода, опубликованная сообществом mlx-community и предназначенная для локального запуска на устройствах Apple Silicon с использованием MLX. Она создана на основе mlx-community/KAT-Coder-V2.5-Dev-OptiQ-4bit с применением toolkit mlx-optiq и метода REAP, разработанного Cerebras Research. Модель ориентирована на программирование, генерацию текста и другие задачи, поддерживаемые исходной MoE-моделью, однако конкретный набор языков и специализированных сценариев в README не указан. Модель использует архитектуру Mixture-of-Experts: сохранено 128 из 256 экспертов в каждом слое, при этом для каждого токена по-прежнему активируются 8 экспертов. Объём модели составляет 18,3 млрд параметров, размер на диске — 11,4 ГБ против 34,7 млрд параметров и 20,4 ГБ у родительской версии. Эксперты были отобраны равномерно по слоям на основе условного среднего произведения веса маршрутизатора и нормы выхода эксперта. Удалённые эксперты не переобучались, а сохранённые были скопированы без изменений в квантованном виде. Главное преимущество модели — заметное снижение требований к дисковому пространству и памяти при сохранении исходного числа активных экспертов на токен, поэтому уменьшение размера не должно приводить к замедлению генерации. При этом данная версия отдельно не benchmark-илась, а опубликована по рецепту, проверенному на другой модели той же архитектуры. Для протестированного варианта сообщалось снижение общего Capability Score при сохранении процедурных способностей; качество конкретно этой модели может отличаться. Контекстное окно, поддерживаемые языки и MTP sidecar не указаны, причём MTP sidecar отсутствует. Модель распространяется по лицензии Apache-2.0.

kto5k2 — дообученная модель для генерации текста на базе deepseek-ai/deepseek-coder-1.3b-base. Она использует плотную архитектуру семейства Llama и содержит 1,3 млрд параметров; формат весов — Safetensors. Модель предназначена для генерации и продолжения текста, в том числе кода, в пределах контекста до 16 384 токенов. В карточке указаны результаты оценки: loss 0,2594 и метрики rewards, log-probabilities и KL. Данные обучения обозначены как None, а подробности о назначении, обучающих данных и ограничениях не приведены. Лицензия указана как other, поэтому условия использования следует уточнить в репозитории модели.

FineEnvs выпустила полноразмерное дообучение LiquidAI/LFM2.5-2.6B для агентных задач анализа данных и работы с инструментами. Это плотная авторегрессионная модель семейства LFM2 с 2,6 млрд параметров, контекстом до 131 072 токенов и чатом. Модель обучена методом supervised fine-tuning на примерах для OpenCode, Claude Code, Codex и Mini-SWE-Agent; доступны полные веса, токенизатор и шаблон чата в формате safetensors. Модель предназначена для выполнения задач в агентных средах: анализа данных, работы с кодом и инструментами в рамках заданий этих harness-систем. На фиксированном наборе из 250 тестовых задач она показала 43,1% pass@1 в среднем по четырём harness-системам. Для воспроизведения результатов нужны соответствующие агентная среда и инструменты; обычный чатовый запрос не равнозначен оцениванию в harness. Карточка указывает лицензию `other`, поэтому условия использования следует сверить с лицензией репозитория.

SimplySara/LocoOperator-4B-i1-GGUF — это GGUF-квантизация модели LocoOperator-4B, разработанной LocoreMind; квантизацию выполнил пользователь SimplySara. Модель предназначена для генерации текста, работы с кодом, агентских сценариев и вызова инструментов. В метаданных также указана связь с Qwen3 и дистилляцией, однако подробности архитектуры исходной модели не приведены. Доступна англоязычная версия, ориентированная на запуск через llama.cpp и совместимые инструменты. Размер базовой модели — 4B параметров; для представленного варианта в README указаны файлы разных уровней квантизации, включая i1-Q8_0, i1-Q6_K, i1-Q5_K_M и более компактные варианты. Для i1-Q8_0 размер составляет около 3,986 ГБ, а совпадение наиболее вероятных токенов с исходной моделью — 97,518%; при дальнейшем уменьшении разрядности размер сокращается, но качество в среднем снижается. Сильные стороны модели — сравнительно небольшой размер, поддержка GGUF и пригодность для локального запуска, а также специализация на коде, tool calling и агентских задачах. Ограничения включают англоязычную направленность, отсутствие данных о длине контекста, точной архитектуре, мультимодальности и результатах прикладных бенчмарков; качество зависит от выбранного уровня квантизации, особенно у наиболее компактных вариантов. Лицензия — MIT.

Agnuxo публикует Mamba-Codestral-7B-Instruct_CODE_Python-Spanish_English_GGUF_16bit — локально запускаемую модель генерации кода на 7 млрд параметров. Карточка описывает её как помощника для написания кода и указывает семейство Mistral; репозиторий содержит веса в формате GGUF F16. В метаданных Hugging Face основная задача обозначена как text-generation, а языки карточки — английский и испанский. Модель предназначена для генерации и помощи с кодом, включая Python, JavaScript, TypeScript, Rust, Go и C++, а также научные вычисления и машинное обучение с библиотеками NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. README также заявляет навыки координации агентов и интеграции MCP/A2A. Модель можно запускать локально через Ollama; лицензия — Apache-2.0. Ограничения: README не приводит результатов тестирования, подробностей об обучении или точного контекста. Перечисленные языки программирования и агентные возможности заявлены в карточке, но не подтверждены метаданными или оценками.

LeroyDyer/Mixtral_AI_Cyber_4.0 — объединённая автором LeroyDyer языковая модель для генерации текста и диалогов. В слияние вошли пять моделей серии Mixtral_AI_Cyber, включая версии 3.m1 и 3.1_SFT; автор описывает исходные модели как интенсивно обученные на задачах программирования. Архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель рассчитана на текстовый ввод и текстовый вывод; в метаданных указан английский язык и поддержка чата. Репозиторий опубликован в формате safetensors, библиотека для работы — Transformers. Лицензия — MIT. Модель можно использовать для генерации и продолжения кода, помощи в программировании и диалоговых запросов на английском языке. Метаданные также отмечают теги biology, chemistry и medical, но README не приводит проверок качества или подробностей специализации в этих областях. Характеристики и ограничения унаследованных моделей, кроме описания их как моделей для программирования, не раскрыты; качество ответов и корректность кода следует проверять отдельно.

nexus-coder-GGUF — это квантизированная GGUF-версия модели NEXUS-Coder, разработанной fableforge-ai в экосистеме FableForge и опубликованной пользователем King3Djbl. Модель предназначена для генерации и анализа кода, отладки, программной инженерии и работы с shell-командами. Она ориентирована на локальный запуск через llama.cpp, Ollama и LM Studio. Модель имеет размер 1,5 млрд параметров, поддерживает текстовую генерацию и английский язык. В репозитории доступны варианты с разными уровнями квантования: от F16 размером 3,09 ГБ до IQ2_XXS размером 0,51 ГБ; рекомендуемым компромиссом между качеством и размером указан Q4_K_M, а для максимального качества — Q6_K. Используется формат запросов ChatML. Заявленные результаты внутреннего тестирования составляют 141 из 150 баллов (94%), однако методика ограничена 30 запросами и запуском на NVIDIA A40 через Ollama. Сильные стороны модели — компактный размер, возможность локального запуска, специализация на коде и заявленная эффективность в задачах рассуждения и использования инструментов. Ограничения включают небольшой размер по современным меркам, неизвестный контекстный размер и отсутствие подробных независимых оценок; качество также зависит от выбранного варианта квантования. Модель распространяется по лицензии Apache-2.0.

Mungert/OlympicCoder-32B-GGUF — это GGUF-версия 32-миллиардной модели для генерации текста и программного кода, созданная на основе Qwen/Qwen2.5-Coder-32B-Instruct. В метаданных указаны датасет open-r1/codeforces-cots, английский язык, библиотека Transformers и лицензия Apache-2.0. README не содержит подробного описания дообучения, поэтому назначение модели следует оценивать прежде всего как применение возможностей базовой instruct-модели в формате GGUF. Модель предназначена для генерации и работы с текстом и кодом, включая сценарии разработки, решения алгоритмических задач и запуск локального вывода на устройствах с ограниченными ресурсами. Основная особенность сборки — применение ультранизкобитного динамического квантования IQ-DynamicGate с распределением точности по слоям. Для наиболее чувствительных компонентов используются более точные форматы, а значительная часть слоёв может храниться в 1–2 битах, что снижает требования к памяти. Сильная сторона модели — возможность размещения крупной 32B-модели в условиях ограниченного GPU VRAM, на CPU или edge-устройствах. При этом ультранизкая битность неизбежно создаёт компромисс между размером, скоростью и точностью; README приводит результаты DynamicGate для Llama-3-8B, но не предоставляет сопоставимых бенчмарков именно для OlympicCoder-32B. Поэтому фактическое качество и скорость этой сборки зависят от выбранного GGUF-кванта, оборудования и программного движка. Контекстное окно, точный набор поддерживаемых языков и конкретный размер файлов для данной модели в README не указаны.

Ornith-1.5-35B-A3B-NVFP4-W4A16 — это независимый community-артефакт, созданный r0b0tlab на основе модели Ornith-1.5-35B-A3B от Ornith AI. Модель предназначена для мультимодальных сценариев image-text-to-text, включая генерацию текста, программирование, математические задачи, выполнение инструкций и агентское кодирование. Артефакт не связан с NVIDIA или Ornith AI и не является их официальным продуктом. Модель использует архитектуру Qwen3_5MoeForConditionalGeneration с 35,1 млрд параметров, гибридным механизмом GDN linear attention и softmax attention, а также Mixture-of-Experts. Это квантизованная версия с NVFP4 W4A16 weight-only: веса Linear-слоёв представлены в 4-битном формате, активации используют BF16, KV-кэш — FP8-E4M3. Размер на диске составляет около 23 ГБ вместо 67 ГБ у BF16-версии, что даёт сжатие примерно в 2,9 раза. Заявлен контекст до 32 768 токенов, однако сведения о поддерживаемых языках в README отсутствуют. По внутреннему набору из 200 вопросов модель показала сопоставимое с BF16-базой качество на GSM8K, HumanEval и IFEval, а с MTP и спекулятивным декодированием — улучшенные результаты в отдельных тестах. Поддерживается SGLang с EAGLE/nextn speculative decoding; целевой сценарий эксплуатации — Blackwell-класс GPU NVIDIA, в частности DGX Spark GB10/SM121. Ограничения включают узкую и внутреннюю систему оценки, отсутствие проверки на других Blackwell-устройствах, возможную чувствительность к данным вне распределения и необходимость корректной настройки SGLang, включая backend marlin, прогрев JIT-кэша FlashInfer и FP8 KV-кэш. Модель распространяется по лицензии MIT.

Ornith-1.5-9B GGUF — квантованный формат 9-миллиардной плотной языковой модели Ornith-1.5, разработанной командой Ornith AI. Модель создана на основе подхода энд‑ту‑энд самоулучшения: она совместно оптимизирует генерацию задач, построение scaffold и rollouts решений с применением reinforcement learning. Данная версия распространяется в формате GGUF и была сгенерирована с использованием llama.cpp. Модель предназначена для генерации текста и эффективного решения задач программирования, включая работу с терминалом и исправление ошибок в коде. Она рассчитана на развёртывание на одной GPU; для мобильных устройств предусмотрен отдельный квантованный вариант Ornith-1.5-9B-Mobile. В README приведены результаты на Terminal-Bench 2.1 и SWE-bench, однако сведения о поддерживаемых языках, длине контекста, конкретном типе квантования и мультимодальности отсутствуют. К сильным сторонам относятся небольшой для современных моделей размер, возможность локального развёртывания и хорошие заявленные результаты в задачах программирования: 70,6 на SWE-bench Verified, 47,5 на SWE-bench Pro и 46,2–47 на вариантах Terminal-Bench 2.1. Ограничения включают отсутствие данных о языковом покрытии, контексте и детальном поведении за пределами представленных тестов; показатели зависят от конфигурации запуска и используемого scaffold. Модель распространяется по лицензии MIT.