II.4Отладка, тестирование и качество ПО

agentlans/multilingual-e5-small-pii-detector — дообученная модель классификации текста на основе BERT multilingual-e5-small, предназначенная для обнаружения персональных данных (PII) в тексте. Её можно применять для предварительной проверки пользовательских сообщений, документов и записей перед передачей или публикацией, а также как вспомогательный компонент процессов редактирования и маскирования данных. Модель содержит 124,3 млн параметров, принимает текстовые последовательности длиной до 512 токенов и опубликована в формате safetensors. В карточке приведены примеры на английском, французском и испанском языках; метаданные указывают на многоязычную поддержку. На оценочном наборе автор сообщает accuracy 0,9214. Модель выпущена под лицензией Apache-2.0. Чувствительность может быть ниже для отдельных языков и форматов персональных данных, включая некоторые номера карт и локальные идентификаторы; на очень коротких фрагментах без контекста качество может снижаться. Результаты следует использовать как вспомогательную проверку, а не как замену юридической или комплаенс-проверке.

Nemotron 3.5 Lightning 30B-A3B REAP-20B — экспериментальная производная модель sleepyeldrazi на основе NVIDIA Nemotron 3.5 Lightning 30B-A3B. Это гибридная архитектура Mamba-2, MoE и attention для генерации текста и диалога. Метод REAP сократил число маршрутизируемых экспертов с 128 до 77 в каждом из 23 MoE-слоёв; по README, размер модели уменьшен с 31,58 до 19,87 млрд параметров, при этом активными остаются около 3 млрд. Метаданные каталога указывают 1,9 млрд параметров, поэтому точный размер в источниках расходится. Модель предназначена как базовая точка для последующего дообучения LoRA и для общих текстовых задач с небольшим уклоном в программирование: ответов на вопросы, рассуждений, математических задач и работы с кодом. Калибровка выполнена на смеси инструкций, примеров кода и математики; заявленный нативный контекст в метаданных — 262 144 токена. README описывает ограниченную проверку генерации, но не приводит результатов полных бенчмарков. Это ранняя альфа-версия, поэтому качество следует проверять на целевых задачах; для специализированных сценариев автор рекомендует калибровку на собственных данных. Модель распространяется по лицензии OpenMDW-1.1.

NightOwl-CodeEmbedding — компактная модель плотных эмбеддингов для поиска по программному коду, сопоставления изменений кода и поиска технических ответов. Модель разработана на основе Shuu12121/NightOwl и дообучена на данных для поиска кода с трудными отрицательными примерами. Использует архитектуру ModernBERT, CLS-пулинг и выдаёт один вектор размерности 768 на входной фрагмент; совместима с sentence-transformers и поиском по косинусному сходству или скалярному произведению. Размер — около 150,7 млн параметров, в репозитории есть форматы safetensors и ONNX. Модель предназначена для семантического поиска по коду и техническим материалам: поиска кода по текстовому запросу, поиска похожих функций, сопоставления намерения с изменением кода и построения RAG-систем по кодовым базам и документации. Поддерживаются Go, Java, JavaScript, PHP, Python, Ruby, Rust и TypeScript; для других языков программирования качество не проверено. Несмотря на указанное в метаданных окно контекста 8192 токена, README сообщает, что входы длиннее 1024 токенов обрезаются, поэтому большие файлы следует делить на фрагменты. Модель специализирована на задачах поиска кода и может уступать универсальным эмбеддинг-моделям на обычном тексте; заявленные результаты бенчмарков в основном относятся к знакомым обучению областям. Лицензия — Apache-2.0.

opencsg/opencsg-stable-code-3b-v1 — языковая модель для генерации кода от OpenCSG, полученная полнопараметрической донастройкой модели stable-code-3b. Это декодерная архитектура StableLM Epoch с 2,7 млрд параметров и контекстом до 16 384 токенов; веса опубликованы в формате safetensors. Исходная модель обучалась на 1,3 трлн токенов текстовых и программных данных и охватывает 18 языков программирования. Модель предназначена для генерации и дополнения кода, в том числе для задач на Python и других языках программирования. В README приведён результат 46,3% pass@1 на HumanEval для Python при жадном декодировании; авторы отмечают, что результаты зависят от способа декодирования и инструкций, а дополнительные бенчмарки и оценки практических задач программной инженерии планировались позднее. Лицензия — Llama 2 Community License.

TheBloke/phi-2-GGUF — это набор квантованных файлов модели Phi-2, разработанной Microsoft и преобразованной TheBloke в формат GGUF для локального запуска. Модель предназначена для генерации текста и кода, а также для задач, поддерживаемых исходной Phi-2, с использованием совместимых локальных приложений и библиотек. Phi-2 — языковая модель типа phi-msft, работающая с текстом и ориентированная на английский язык. В README не указаны размер модели, архитектурные детали и максимальная длина контекста. Доступны варианты квантования от 2 до 8 бит, включая методы Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать между меньшим потреблением памяти и качеством вывода. Модель использует шаблон запроса «Instruct: {prompt} Output:». Главное преимущество версии GGUF — возможность запуска на CPU и совместимом GPU через llama.cpp и ряд сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Ограничения качества и применимости связаны с квантованием, англоязычной специализацией и возможностями исходной Phi-2; мультимодальность не заявлена. Лицензия указана как microsoft-research-license, применимая к исходной модели Microsoft.

Atomic-Germ/Qwable-Claude-Fable-5-Distilled-NPU2 — это квантованный порт модели empero-ai/Qwable-9B-Claude-Fable-5, подготовленный разработчиком Atomic-Germ для инференса на NPU AMD XDNA. Модель собрана в формате Q4NX для среды выполнения FastFlowLM и не является файлом GGUF. Указанный размер исходной модели — 9 млрд параметров, размер файла весов model.q4nx — 7,11 ГБ. Модель поддерживает языковые и визуальные входы и ориентирована на агентное программирование, работу с кодом и мультимодальные сценарии, включая анализ изображений. В репозитории также присутствуют отдельные веса vision-модуля, токенизатор и шаблон диалога. Для работы требуется FastFlowLM версии 1.0.1 и совместимое оборудование AMD XDNA NPU; запуск предусмотрен через утилиту flm-add и runtime FastFlowLM. Ключевое преимущество модели — адаптация под локальный NPU-инференс с использованием квантования Q4NX, что может снизить требования к памяти и повысить практичность запуска на совместимом оборудовании. Ограничения включают зависимость от FastFlowLM и AMD XDNA, отсутствие совместимости с GGUF, а также отсутствие в карточке сведений о поддерживаемых языках, размере контекстного окна, точных характеристиках архитектуры и результатах оценки качества. Лицензия в предоставленном README не указана.

Qwen2.5-Coder-1.5B-4bit — языковая модель семейства Qwen2, преобразованная mlx-community в формат MLX из Qwen/Qwen2.5-Coder-1.5B с помощью mlx-lm 0.18.1. Каталог связывает её с Qwen/Qwen2.5-1.5B как с базовой моделью, дообученной для генерации текста. Модель содержит 1,5 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации кода и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. Карточка сообщает о 4-битном варианте MLX, а репозиторий содержит веса safetensors. Поддерживаемый язык карточки — английский. Модель распространяется по лицензии Apache-2.0. Компактный размер удобен для локального запуска на совместимом оборудовании Apple через MLX; точность и качество ответов могут быть ограничены размером модели и 4-битным представлением весов.

Qwen3.5-35B-A3B Coding Extract (N128) — языковая модель для генерации кода, созданная deepgoyal19 на основе Qwen/Qwen3.5-35B-A3B. Это training-free вариант MoE-архитектуры: из 256 маршрутизируемых экспертов в каждом слое оставлены 128, а общий вычислительный блок, внимание и эмбеддинги сохранены. В README указано 18,54 млрд параметров и формат bf16; метаданные каталога указывают 2,9 млрд параметров. Модель работает через Transformers и имеет контекст до 262 144 токенов. Модель предназначена для генерации и дополнения программного кода; в README приведены результаты HumanEval 86,6% и HumanEval+ 83,5% pass@1. Модель принимает текстовые запросы и выдаёт текст, включая код. README утверждает, что веса получены отбором экспертов без дообучения, дистилляции или градиентных обновлений. Лицензия — Apache-2.0.

ManniX-ITA/Qwen3.6-27B-A3B-Coder — производная от Qwen/Qwen3.6-35B-A3B модель для генерации программного кода. В исходной MoE-модели число экспертов сокращено с 256 до 184 на слой по карте компетенций, ориентированной на задачи программирования; число активных экспертов сохранено на уровне A3B. В конфигурации по умолчанию задана маршрутизация top-10. По карточке, дообучение и дистилляция не применялись. Модель сохраняет архитектурные компоненты базовой модели, включая vision tower, но в метаданных основная задача указана как text-generation. Модель предназначена для генерации кода и задач программирования, в том числе на Rust, Java и JavaScript. В карточке приведены результаты HumanEval, LiveCodeBench и MultiPL-E; также сообщается о снижении показателей в отдельных общих и агентных задачах. Лицензия — Apache-2.0. Результаты MultiPL-E измерены с top-8, тогда как опубликованная конфигурация использует top-10; оценка использования инструментов затронута известной ошибкой оценщика и включает safety-critical failures.

Qwen3.6-40B-Fable-Fusion-6-Core-Deckard-Eleanor-Heretic-Uncensored — дообученная плотная мультимодальная модель семейства Qwen3.5 от DavidAU с 40 млрд параметров и архитектурой Qwen3_5ForConditionalGeneration. Она предназначена для диалогов, рассуждений, программирования, творческого письма и ролевых сценариев; метаданные также указывают поддержку изображений и интерфейс вызова инструментов. В карточке заявлены подробные ответы и адаптивное использование токенов рассуждения, однако приведённые заявления о превосходстве в тестах не сопровождаются проверяемыми результатами. Модель использует формат safetensors, библиотеку Transformers и распространяется по лицензии Apache-2.0. Указаны английский и китайский языки. README описывает вариант GGUF как отдельный ресурс; представленные здесь метаданные относятся к safetensors-модели.

Qwen3.8-27B-Abliterated-GSQ-Orca-GGUF — экспериментальная GGUF-модель на 27 млрд параметров, разработанная автором репозитория ayozhee для локального запуска. Она основана на GSQ-RCO IQ2_S-MTP и объединяет его квантованные веса с выборочно заменёнными матрицами из orcarouter/Qwen3.8-27B-Uncensored. Модель предназначена для генерации текста, рассуждений, решения математических задач и программирования на совместимых локальных средах, включая llama.cpp. Abliteration снижает склонность модели к отказам, но может влиять на поведение и безопасность ответов. Файл имеет формат GGUF, размер около 9,61 ГБ, использует смешанное квантование IQ2_S и включает MTP для спекулятивного декодирования. Токенизатор и большая часть тензоров сохранены из исходной GSQ-модели; всего заменена 131 матрица. Тестирование проводилось на RTX 3060 с 12 ГБ памяти: модель показала скорость декодирования около 35,65 токена/с на коротких запросах и успешно прошла заявленные проверки генерации. В небольшом локальном сравнении она получила 27/30 в IFEval, 30/30 в GSM8K и 30/30 после нормализации извлечения в HumanEval. Модель ориентирована на пользователей, которым нужен компактный локальный вариант для ограниченных GPU. Заявленный настроенный предел контекста составляет 16 384 токена, при этом отдельное измерение проводилось с историей на 30,6 тыс. токенов; производительность при полностью занятом контексте 65 тыс. токенов не оценивалась. Результаты основаны на небольших выборках и единичных запусках, поэтому не заменяют полноценные бенчмарки. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B Gold10K Coding — архивная копия модели для генерации кода, созданная на основе локально дообученной Qwen3.8-27B и слитого LoRA-адаптера Gold10K. Модель использует плотную архитектуру Qwen3.5 для авторегрессионной генерации текста; в карточке указаны 22,3 млрд параметров и контекст до 262 144 токенов. Модель рассчитана на диалоговое взаимодействие и задачи программирования, например генерацию и доработку кода. Репозиторий содержит объединённые веса в формате safetensors и исходный LoRA-адаптер. Разработчик — koreallmdev; модель описана как локальная доработка и архивная копия. Лицензия — Apache 2.0.

TakalaWang/qwen3-embedding-4B-code-search — модель Sentence Transformer, дообученная на базе Qwen/Qwen3-Embedding-4B для поиска и сравнения текстов, включая запросы на естественном языке и фрагменты кода. Она преобразует предложения и абзацы в плотные векторы размерностью 2560; для сравнения векторов используется косинусное сходство. Архитектура включает трансформер Qwen3, пуллинг последнего токена и нормализацию выходных векторов. Модель обучалась с ContrastiveLoss на 800 парах текстов, в том числе примерах, связывающих описания задач с кодом. Её можно применять для семантического поиска кода, поиска похожих фрагментов, подбора парафразов, кластеризации и классификации текстов. Максимальная длина последовательности — 40960 токенов. Указана лицензия базовой модели в использованных данных не была, поэтому условия лицензирования определить нельзя.

Rebekah AI 1.8B — плотная авторегрессионная языковая модель семейства LLaMA, разработанная Next GenAi Mexico для локального запуска и работы на периферийных системах. Модель ориентирована на агентные сценарии, вызов инструментов, диагностику Linux-инфраструктуры и системное администрирование без обращения к облачным API. В карточке заявлены результаты тестов на генерацию кода, математические рассуждения и общие знания; эти показатели приведены авторами модели. Модель содержит около 1,9 млрд параметров, использует архитектуру decoder-only causal transformer и поддерживает контекст до 8192 токенов. README описывает обучение на англоязычных и испаноязычных технических данных, включая материалы по системам, программированию и математике. Модель принимает текст и генерирует текст, в том числе код и ответы для агентных рабочих процессов. Модель распространяется с открытыми весами по лицензии Apache 2.0, допускающей коммерческое использование, изменение и распространение. Карточка заявляет ориентацию на одиночный GPU и локальные развёртывания; качество ответов и выполнения инструментов может зависеть от конкретной задачи и настройки интеграции.

Refact 1.6B FIM GGUF — модель для программирования, разработанная Small Magellanic Cloud AI Ltd. Она предназначена для дополнения и рефакторинга кода, а также общения с разработчиком в формате чата. Модель может генерировать код и понимать запросы на естественном языке, связанные с программированием. Архитектура описана как LLAMA-подобная с multi-query attention; размер исходной модели — 1,6 млрд параметров. В репозитории опубликован файл GGUF в формате BF16. В карточке приведены результаты HumanEval: 32% pass@1 и 53% pass@10. Основной язык — английский; для других языков качество может быть ниже. Лицензия — BigScience OpenRAIL-M.

Securin-LLM-V2.5-Qwen-1.5B — компактная языковая модель, созданная Securin слиянием моделей методом TIES с помощью mergekit. В основу вошли Qwen/Qwen2.5-Coder-1.5B-Instruct и securin/qwen_finetune_intermediate; базовой моделью указана Qwen/Qwen2.5-Coder-1.5B. Модель имеет архитектуру Qwen2ForCausalLM, содержит 1,5 млрд параметров и работает с контекстом до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате, в частности для задач, связанных с кодом, как и её базовая инструкционная модель Qwen Coder. Данные карточки не описывают отдельные результаты оценки качества или перечень языков программирования. Весовые файлы представлены в формате safetensors; лицензия в предоставленных данных не указана.

SmolLM3-3B-MOPD-Top64-DR-NoThinking-500 — это исследовательский чекпойнт языковой модели SmolLM3, подготовленный Huangsssz на основе BytedTsinghua-SIA/Open-MOPD-SmolLM3-3B-MixSFT. Модель содержит 3,1 млрд параметров, использует плотную архитектуру SmolLM3ForCausalLM и принимает текстовые запросы для генерации текста; заявленная длина контекста — 65 536 токенов. Чекпойнт получен после 500 шагов дообучения методом дистилляции с пересечением наборов наиболее вероятных 64 токенов студента и учителей. Учителя специализировались на математике, коде и следовании инструкциям; генерация и оценивание выполнялись с отключённым режимом рассуждений. Для запуска автор рекомендует явно передавать enable_thinking=False. В README приведены результаты отдельных фиксированных оцениваний по математике, программированию и следованию инструкциям; они не доказывают устойчивого улучшения. Модель ориентирована на исследовательские эксперименты и генерацию ответов общего назначения, особенно в математике, программировании и выполнении инструкций. Это полный экспорт весов BF16 для Hugging Face Transformers с токенизатором и исходным шаблоном чата. Репозиторий указывает лицензию Apache-2.0. Чекпойнт является ранней исследовательской версией после ограниченного числа шагов; опубликованные оценки имеют фиксированный протокол и ограниченную статистическую надёжность.

Georgia Tech Research Institute представил StarCoder GPTeacher-Codegen — модель GPTBigCode для генерации кода по инструкциям. Она создана дообучением bigcode/starcoder на наборе teknium1/GPTeacher-codegen, содержащем пары инструкций и ответов для генерации кода. В README указано 4,5 тыс. пар для дообучения; базовая модель имеет 15,5 млрд параметров и обучалась на коде более чем на 80 языках программирования. Модель принимает текстовые запросы и выдаёт код или текстовые ответы о программировании. Она рассчитана на написание функций и фрагментов кода, а также на технические запросы; карточка рекомендует формат промптов Alpaca. Контекст модели составляет 8192 токена, тогда как дообучение проводилось с длиной контекста 1024 токена. Модель использует архитектуру GPTBigCode с Multi Query Attention и поддерживает Fill-in-the-Middle. Генерируемый код может содержать ошибки, быть неэффективным или небезопасным, а ранняя настройка следования инструкциям может давать нестабильные результаты. Модель распространяется по лицензии BigCode OpenRAIL-M; код, похожий на обучающие данные, может требовать атрибуции или соблюдения других условий исходной лицензии.

Ternary-Bonsai-27B-antidoom-DSpark — текстовая генеративная модель, разработанная на основе prism-ml/Ternary-Bonsai-27B и доработанная Danny-Dasilva с применением antidoom и DSpark. Она предназначена для локальной генерации текста, включая программный код, с запуском через специализированный форк llama.cpp и CUDA-ядра для гибридного внимания. Модель ориентирована на сценарии, где важны компактность, высокая скорость вывода и устойчивость к зацикливанию на повторяющихся фрагментах. В основе лежит гибридная attention-архитектура Qwen3.5-27B с тернарной 2-битной квантизацией Q2_0, плотностью около 2,125 бит на вес и контекстом до 16 384 токенов в приведённой конфигурации. Указан английский язык. В комплект входят основная модель размером около 7 ГБ, DSpark-драфтер в формате Q4_1 для speculative decoding и vision projector Q8_0, что указывает на поддержку мультимодального сценария через проектор, хотя подробности о визуальных возможностях не приведены. К сильным сторонам относятся малый размер, высокая скорость на RTX 5090 и ускорение speculative decoding: в описанном тесте скорость выросла с 129,2 до 184,6 токена в секунду. Antidoom-настройка снижает склонность к продолжению уже начавшихся повторов, однако её эффект частично ослабляется агрессивной 2-битной квантизацией. Скорость DSpark зависит от характера запроса и может снижаться на задачах с низкой долей принятых черновых токенов; для работы требуется совместимый форк llama.cpp и подходящее CUDA-оборудование. Модель распространяется по лицензии Apache-2.0.

Locutusque/UltraQwen-7B — диалоговая языковая модель на 7,1 млрд параметров, дообученная на примерно 100 000 примерах набора HuggingFaceH4/ultrachat_200k. В метаданных указаны архитектура LlamaForCausalLM, формат safetensors и контекст до 32 768 токенов; модель предназначена для генерации текста в диалоге. Автор сообщает о хороших результатах личных проверок на математике, истории, викторинах и задачах программирования, однако подробные метрики не приведены. Модель не проходила выравнивание DPO. Базовая модель — Qwen/Qwen-7B; в README указана лицензия other в метаданных, без конкретных условий использования.

XwinCoder-34B — инструктивно дообученная модель генерации кода от команды Xwin-LM, основанная на CodeLLaMA. Она предназначена для создания и дополнения программного кода по запросам на естественном языке и для диалоговой работы с задачами программирования. В репозитории указаны результаты оценки XwinCoder-34B на HumanEval, MBPP и APPS-intro; авторы также сообщают о сравнимой с GPT-3.5-turbo производительности на шести бенчмарках. Модель построена на архитектуре LLaMA, содержит 33,5 млрд параметров и поддерживает контекст до 16 384 токенов. Карточка не сообщает перечень поддерживаемых языков программирования. Для использования требуются совместимые инструменты PyTorch и соблюдение лицензии Llama 2. Результаты бенчмарков не гарантируют качество на конкретных задачах; сгенерированный код следует проверять и тестировать.

bartowski/zed-industries_zeta-2-GGUF — это набор GGUF-квантизаций модели zed-industries/zeta-2, подготовленный bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, а также сценариев edit prediction и next-edit-suggestion, включая поддержку интеллектуальных подсказок при редактировании кода. Указан английский язык; исходная модель относится к семейству zeta-2, но сведения об архитектуре, количестве параметров, размере контекста и точном назначении базовой модели в README не приведены. Набор можно запускать через llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Доступны варианты от BF16 размером 16,51 ГБ до квантизаций Q2–Q8 размером примерно от 4,06 до 8,77 ГБ, что позволяет выбирать баланс между качеством и требованиями к памяти. Наиболее качественными и рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S и Q4_K_M; малые варианты экономят память, но могут заметно уступать по качеству. Сильные стороны набора — локальный запуск в формате GGUF, широкий выбор уровней квантизации и оптимизация imatrix. Ограничения — отсутствие в README шаблона промпта, подробных характеристик архитектуры, контекстного окна и результатов оценки; для уточнения формата взаимодействия рекомендуется обратиться к странице исходной модели. Для набора указана лицензия Apache-2.0.

AIguard-0.6B-PII-Chinese — модель классификации токенов для выявления и извлечения 21 категории персональных данных в китайскоязычных текстах. Она дообучена разработчиками проекта ZJUICSR на базе Qwen3-0.6B и рассчитана на защиту конфиденциальности, проверку соответствия требованиям и подготовку данных к обезличиванию. Модель использует архитектуру Qwen3 с плотными весами, содержит около 507,9 млн параметров и принимает текстовые последовательности. В README рекомендовано разбивать длинные входы на фрагменты до 512 токенов, хотя контекст модели составляет 40 960 токенов. В карточке заявлены entity-level F1 96,29% и 21 тип чувствительных сущностей; обучение проводилось на синтетических примерах с ручной проверкой и охватывало несколько сфер повседневной жизни. Модель подходит для поиска утечек PII в диалогах и журналах, извлечения персональных данных из документов и последующего маскирования. Она обучена для китайского языка. Лицензия — Apache-2.0. Качество на реальных данных может отличаться от результатов тестирования на синтетических примерах. Для номера отслеживания YTO авторы отмечают низкую полноту и рекомендуют дополнительную проверку правилами; модель также не гарантирует выявление поддельных или изменённых идентификационных данных, а результаты в важных сценариях следует проверять вручную.

Absolute_Zero_Reasoner-Coder-7b-GGUF — это GGUF-квантизированная версия модели Absolute_Zero_Reasoner-Coder-7b, разработанной andrewzh и подготовленной квантизатором bartowski с использованием llama.cpp версии b5338 и imatrix-калибровки. Модель предназначена для генерации текста и задач, связанных с рассуждениями и программированием, а также для локального запуска через LM Studio, llama.cpp и совместимые проекты. Модель содержит 7 миллиардов параметров; в README не указаны точная архитектура, поддерживаемые языки, модальности и размер контекста. Доступны варианты от BF16 до различных форматов квантования Q8, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размер файлов варьируется примерно от 3,57 до 15,24 ГБ. Наиболее качественными и рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5 и Q4_K_M; облегчённые варианты подходят для систем с ограниченным объёмом памяти. Сильной стороной модели является возможность эффективного локального использования на широком спектре оборудования, включая CPU и, согласно README, Apple Silicon для некоторых форматов. Ограничения связаны с потерями качества при низком уровне квантования, а также с отсутствием в предоставленных данных подробностей о результатах тестирования, языковой поддержке, контекстном окне и исходной лицензии. Лицензия в README не указана.

Athene CodeGemma 2 7B v1.1 — дообученная EpistemeAI модель для программирования на основе Athene-codegemma-2-7b-it-alpaca-v1. Это плотная decoder-only языковая модель семейства Gemma с 8,2 млрд параметров, предназначенная для генерации кода по текстовому запросу, ответов на вопросы о фрагментах кода и диалога о программировании и технических задачах. Модель принимает текстовые инструкции и выдаёт код или текст; карточка указывает поддержку английского языка. Модель обучена с учителем на наборах данных для программирования и поддерживает чатовый формат. Контекст составляет 8192 токена. Карточка приводит пример успешного создания игры «Змейка», но не содержит систематических оценок качества или подробностей о данных обучения. Лицензия — Apache 2.0. Для автодополнения кода в IDE README рекомендует использовать предварительно обученные варианты CodeGemma.

Bobcat 1.1 — дообученная модель sanghwa-na на базе Qwen/Qwen3.8-27B. Это плотная модель архитектуры Qwen3.5 с весами BF16 в формате safetensors; исходную LoRA ранга 16 объединили с базовой моделью. Для каждого запроса приложение задаёт состояние и набор допустимых ответов, а модель оценивает их вероятности за один проход. Она не генерирует текст: приложение формирует из результатов ответ в заданном формате. Модель предназначена для повторяющихся ограниченных решений, например маршрутизации запросов, ранжирования, проверки цитат, классификации и проверки вызовов инструментов. Карточка указывает поддержку английского и корейского языков; в обучающих данных 36% решений были на английском. Лицензия — Apache-2.0. По опубликованным разработчиком оценкам, Bobcat 1.1 повысила точность на тестах по сравнению с необученной базовой моделью и реже поддавалась ответам, подсказанным внутри состояния. Модель может ошибиться, хотя её ответ останется одним из допустимых вариантов. Она слабо распознаёт ситуации с недостатком свидетельств, а уверенность не гарантирует правильность. В длинных состояниях результаты зависят от длины и развертывания; вычисления, подсчёт и сравнение дат лучше выполнять в коде. Для критически важных решений модель не предназначена. Для развёртывания автор описывает работу через vLLM; требуются подходящие GPU-ресурсы.

BoostedV1-ILv9 — разговорная языковая модель, разработанная auryn-macmillan на основе DeepSeek-R1-Distill-Qwen-1.5B. Это плотная модель семейства Qwen2 с 1,5 млрд параметров, обученная продолжением LoRA-настройки и несколькими раундами итеративного самоулучшения: модель генерировала решения, они проверялись и проходили самоаудит, после чего отобранные примеры использовались для обучения. Модель предназначена для генерации текста с упором на рассуждения, математические задачи и написание кода; поддерживает диалоговый сценарий и интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена, основной язык карточки — английский. В приведённой оценке результат GSM8K вырос с 46,0% до 46,5%, а HumanEval pass@1 — с 7,3% до 11,0% относительно BoostedV1 Phase-1; результаты относятся к указанным бенчмаркам и не гарантируют качество в других задачах. Модель распространяется в формате safetensors по лицензии MIT.

CAT-Paws-8B — диалоговая агентная языковая модель CyberAgent для многошаговых взаимодействий, включая программирование, работу с терминалом и использование инструментов. Она объединяет Qwen3-8B и Qwen3-Swallow-8B-CPT-v0.2; архитектура — плотная Qwen3ForCausalLM, размер — 7,6 млрд параметров. Модель работает с текстом и рассчитана прежде всего на японский язык: цепочка рассуждений обычно формируется на японском, даже если запрос дан по-английски. Поддерживает японский и английский, контекст составляет 40 960 токенов; доступна в формате safetensors для Transformers. Модель предназначена для агентных сценариев с несколькими ходами, где инструкции и формат вызова инструментов передаются в системном сообщении или запросе. Специальный интерфейс для вызова инструментов модель не обучена принимать. По результатам авторских оценок CAT-Paws сопоставима с Qwen3-8B в агентных задачах на английском и немного превосходит её на японском, но уступает другим моделям в одноходовых задачах программирования и математики. Она может повторяться, выдавать длинные ответы и включать рассуждения даже при просьбе этого не делать; длинные системные инструкции ухудшают работу. Модель распространяется по лицензии Apache-2.0.

Это GGUF-квантизованная версия модели Qwen3-Coder-REAP-25B-A3B, разработанной командой Cerebras. Репозиторий с квантизациями подготовлен bartowski с использованием llama.cpp и imatrix-калибровки. Модель относится к категории text-generation и предназначена для генерации текста, включая сценарии программирования, однако подробные сведения о специализации исходной модели в представленном README отсутствуют. Доступны варианты от исходных BF16-весов размером 49,76 ГБ до низкобитных форматов размером примерно 11,5–26,5 ГБ. Представлены форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, IQ4 и IQ3; некоторые варианты оптимизированы по качеству, размеру или производительности на ARM и Apple Silicon. Модель можно запускать через LM Studio, llama.cpp и другие проекты на его основе. Архитектура, число параметров и активных параметров, поддерживаемые языки, модальности и размер контекста в README не указаны. Для модели не задан chat template, поэтому используется шаблон по умолчанию, который может быть некорректным. Сильной стороной является широкий выбор уровней квантизации: варианты Q6 и Q5 заявлены как обеспечивающие очень высокое или высокое качество, а Q4_K_M — как компромиссный вариант для большинства сценариев. Более компактные варианты позволяют работать при ограниченном объёме оперативной памяти, но сопровождаются снижением качества. Лицензия в представленном README не указана.

CodeCalc-Mistral-7B — объединённая модель на базе Mistral, созданная sethuiyer методом TIES из uukuguy/speechless-code-mistral-7b-v1.0 и upaya07/Arithmo2-Mistral-7B. Она предназначена для генерации текста в формате инструкций, включая написание программного кода и решение математических задач. Модель имеет плотную архитектуру Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; для работы используются Transformers и веса в формате Safetensors. В карточке приведены результаты тестов, в том числе GSM8K: автор сообщает об улучшении результата на этом наборе по сравнению с одной из базовых моделей при сопоставимых показателях на других перечисленных бенчмарках. Модель выпущена под лицензией Apache-2.0. Карточка не приводит подробных сведений о качестве на реальных задачах или ограничениях, поэтому результаты тестов не гарантируют точность ответов и генерируемого кода.