II.4Отладка, тестирование и качество ПО

Kimi-K3-REAP73-MLX-mxfp4-q8 — это сильно разреженная и конвертированная в формат MLX версия мультимодальной MoE-модели Kimi-K3, разработанной Moonshot AI. Модель предназначена для локального запуска на компьютерах Apple Silicon с большим объёмом unified memory, прежде всего для генерации текста и программного кода через mlx-lm. Она сохраняет 793 млрд параметров из исходных 2,78 трлн, включая 104 млрд активных параметров, и рассчитана на контекст до 1 млн токенов. Архитектура включает Kimi Delta Attention, Attention Residuals, LatentMoE и 92 MoE-слоя; из 896 экспертов в каждом слое сохранены 242, при этом на токен маршрутизируются 16 экспертов. Заявлена поддержка английского, китайского и ряда других языков, включая японский, русский, корейский, немецкий, французский, испанский и арабский, а также мультимодальных сценариев исходной модели, хотя подробности о поддерживаемых входных форматах здесь не приведены. Ключевое преимущество модели — возможность загрузки примерно 451 ГБ весов на Apple Silicon с 512 ГБ памяти. Экспертные веса используют MXFP4 без дополнительной потери точности при конвертации: сохранённые тензоры являются побитовой копией исходных. На M3 Ultra с 512 ГиБ заявлена скорость генерации около 5,51 токена в секунду. Модель особенно хорошо сохраняет структурную корректность генерации кода, однако агрессивное удаление экспертов заметно ухудшает общие языковые способности: возможны уход в спискообразные или похожие на исходный код продолжения, повторы и деградация качества по сравнению с полной Kimi-K3. Сокращение числа сохранённых экспертов уменьшает требования к памяти, но почти не ускоряет генерацию. Для работы требуются mlx-lm и поставляемый загрузчик kimi_k3.py; практическое использование рассчитано на систему Apple Silicon с 512 ГБ памяти и настройкой лимита wired GPU memory. Модель распространяется с лицензией other, с указанием license_name kimi-k3; дополнительные условия этой лицензии в README не приведены.

Llama-3-Patronus-Lynx-8B-Instruct-GGUF — набор квантованных файлов модели Llama-3-Patronus-Lynx-8B-Instruct, разработанной Patronus AI и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для генерации текста и задач оценки качества ответов, включая обнаружение галлюцинаций. Указанный язык — английский. Модель основана на Llama 3 и содержит 8 миллиардов параметров. Доступны варианты с различными уровнями квантования GGUF: от Q2_K до Q8_0, а также версия f16. Размер файлов составляет примерно от 3,3 до 16,2 ГБ; варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как обеспечивающий очень хорошее качество, а Q8_0 — как вариант с лучшим качеством среди квантованных сборок. Сведения о модальностях и размере контекста в README не указаны. Основные преимущества сборки — широкий выбор компромисса между размером, скоростью и качеством, а также совместимость с экосистемой GGUF. Ограничения связаны с потерями качества, зависящими от уровня квантования, и отсутствием в README подробных результатов оценки, описания обучения и рекомендаций по конкретным сценариям применения. Распространение указано по лицензии CC-BY-NC-4.0, допускающей использование с ограничениями, включая некоммерческий характер лицензии.

LosslessMegaCoder-llama2-13b-mini — языковая модель для генерации кода, созданная Rombodawg совместно с Andreaskoepf, участником Open Assistant. Это плотная авторегрессионная модель семейства Llama 2 с 12,9 млрд параметров, опубликованная в формате PyTorch; для неё указан контекст до 2048 токенов. Модель обучена на отфильтрованной версии набора LosslessMegaCodeTrainingV2_1m_Evol_Uncensored: из данных удаляли примеры короче 100 токенов. Она предназначена для генерации и продолжения кода, а также для диалогового взаимодействия по шаблону ChatML. В README приведён результат 0,29 на HumanEval+; также показаны результаты Open LLM Leaderboard, но они не гарантируют качество на конкретных задачах. В карточке указана лицензия Llama 2. Короткий контекст ограничивает работу с большими файлами и длинными запросами. Данные обучения описаны как uncensored, поэтому ответы могут требовать дополнительной проверки и фильтрации.

Карточка модели XiaomiMiMo/MiMo-VL-7B-SFT-2508 на Hugging Face совпадает с карточкой XiaomiMiMo/MiMo-VL-7B-RL-2508, поэтому описание составлено по ней. MiMo-VL-7B-RL-2508 — мультимодальная модель Xiaomi для понимания изображений и видео и ответов на вопросы по визуальному содержимому. Она основана на архитектуре Qwen2.5-VL и включает визуальный ViT-энкодер с обработкой исходного разрешения, MLP-проектор для связи изображения с языковой частью и языковую модель MiMo-7B. Размер модели — 7 млрд параметров, контекст — до 128 000 токенов. Модель предназначена для визуального рассуждения, распознавания и описания содержания изображений, анализа видео, визуального grounding и понимания графических интерфейсов. Версия RL-2508 прошла постобучение с обучением с подкреплением и поддерживает режим управления рассуждением: по умолчанию рассуждение включено, а командой /no_think можно запросить прямой ответ. Модель работает через Transformers и выдаёт текст; в README приведены высокие результаты на MMMU и VideoMME. Модель распространяется по лицензии MIT. Практическое применение требует учитывать, что ответы могут быть ошибочными, а README описывает в основном результаты собственных оценок разработчика; для корректной подачи визуальных данных в запросе нужно размещать изображение или видео перед текстом.

iitzprakhar/my-custom-code-ai — дообученная автором iitzprakhar языковая модель для генерации текста, созданная на основе unsloth/qwen2.5-coder-1.5b-instruct-bnb-4bit. Это плотная причинная архитектура Qwen2 размером 1,5 млрд параметров с контекстом до 32 768 токенов; модель сохранена в формате safetensors и поддерживает диалоговый режим и интерфейс вызова инструментов. В карточке указано, что обучение проводилось с Unsloth и библиотекой TRL; модель ориентирована на сценарии генерации кода и общения с кодовым ассистентом, унаследованные от базовой Qwen2.5-Coder-Instruct. Модель принимает текст и генерирует текст. В метаданных указан английский язык, а лицензия — Apache 2.0. Карточка не приводит результаты оценки качества и подробностей о собственных данных или специализации дообучения, поэтому качество на конкретных языках программирования и задачах следует проверять отдельно.

Openthoughts-4-code-qwen3-32b-annotated-32k_qwen2.5-1.5B_32k — диалоговая языковая модель семейства Qwen2, разработанная на основе Qwen/Qwen2.5-1.5B-Instruct и дообученная на датасете laion/openthoughts-4-code-qwen3-32b-32k-annotated. Она предназначена для генерации текста и диалоговых ответов, в том числе по примерам кода из обучающих данных. Модель имеет архитектуру Qwen2ForCausalLM, 1,5 млрд параметров и контекст до 32 768 токенов; доступна в формате Safetensors и рассчитана на работу с текстом. Модель может быть полезна для генерации кода и ответов в чат-сценариях, однако README не приводит результатов оценки, конкретных ограничений или подробностей обучения. Лицензия — Apache-2.0.

PII-Tracer-GGUF — сборка детектора персональных данных PII-Tracer от Perplexity AI в формате GGUF для запуска с llama.cpp. В основе — двунаправленный энкодер Qwen3 примерно на 600 млн параметров с бэкбоном pplx-embed-v1-0.6b. Отдельные классификационные головы остаются в формате safetensors: одна размечает токены тегами BIOES по девяти категориям PII, другая оценивает чувствительность диалога целиком. Модель предназначена для обнаружения и маскирования персональных данных в разговорных текстах, включая имена, номера счетов, адреса, даты, электронную почту, телефоны, URL и секреты. Для разметки используется классификация токенов с ограниченным декодированием Viterbi; клиент применяет головы к векторам токенов, полученным от llama-server, и может маскировать найденные фрагменты. Карточка указывает поддержку английского и многоязычного ввода. Окно обработки составляет от 1 до 4096 токенов; более длинные документы требуется разбивать на фрагменты. Для двунаправленного внимания весь вход должен обрабатываться одним микропакетом, а для получения представлений на каждый токен нужны указанные в README параметры сервера. Точность конвертации и бэкенд могут менять результаты, возможны ложные срабатывания и пропуски PII, поэтому пороги и качество следует оценивать на целевых данных. Лицензия — MIT.

mergekit-community/Qwen2-2B-RepleteCoder-Hercules — объединённая модель на архитектуре Qwen2, созданная сообществом с помощью mergekit. В неё вошли M4-ai/Hercules-5.0-Qwen2-1.5B и Replete-AI/Replete-Coder-Qwen2-1.5b; применён метод passthrough. Модель содержит около 1,9 млрд параметров и предназначена для генерации текста в диалоговом режиме, в том числе для задач программирования благодаря включению Replete Coder. Модель использует библиотеку Transformers, веса доступны в формате safetensors, заявленная длина контекста — до 131 072 токенов. В метаданных не указаны языки и лицензия; конкретные условия использования следует проверять у исходных моделей и в репозитории. Практическое качество и ограничения на задачах программирования отдельно не описаны.

mergekit-community/Qwen2-2B-RepleteCoder-Upscaled — языковая модель, полученная сообществом с помощью mergekit из слоёв Replete-AI/Replete-Coder-Qwen2-1.5b. Это плотная авторегрессионная модель архитектуры Qwen2 с 1,9 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Конфигурация passthrough собирает слои базовой модели в изменённой последовательности; веса сохранены в формате safetensors и bfloat16. Заявленная длина контекста — 131 072 токена. Модель подходит для генерации и продолжения кода, а также для диалоговых сценариев с программированием. Карточка не приводит результаты оценивания качества или перечень поддерживаемых языков, поэтому такие характеристики нельзя надёжно уточнить. Лицензия в предоставленных данных не указана.

Небольшая инструкционная языковая модель семейства Qwen2.5-Coder с 494 млн параметров, опубликованная пользователем seeib на Hugging Face. Модель предназначена для генерации текста и ориентирована на сценарии, связанные с программированием и выполнением инструкций; в метаданных также указана связь с экспериментами Gensyn/GenRL Swarm и GRPO. Для работы используется библиотека Transformers, поддерживается контекст до 32 768 токенов.

Qwen-2.5-Nemotron-32B-Reward — разработанная NVIDIA модель вознаграждения на архитектуре Transformer Qwen2.5 с 32 млрд параметров, дообученная на основе Qwen/Qwen2.5-32B-Instruct. Она оценивает ответ языковой модели на запрос пользователя и выдаёт одно числовое значение: более высокий балл указывает на более качественный ответ в рамках того же диалога. Модель предназначена для сравнения ответов и оценки их качества, в том числе по чатовым, математическим, программным и безопасностным сценариям. Модель принимает текст. В README указан максимум 128 тыс. токенов на вход, при этом обучение проводилось на диалогах длиной до 8 тыс. токенов; метаданные Hugging Face указывают нативный контекст 32 768 токенов. Поэтому оценки для длинных диалогов могут быть менее надёжны. Числовые оценки сопоставимы в рамках одного запроса, но не предназначены для сравнения ответов на разные запросы. Модель распространяется по лицензии other; README заявляет возможность коммерческого и некоммерческого использования. Для запуска описана интеграция с Transformers и потребность в GPU-памяти, зависящая от конфигурации оборудования.

DavidAU/Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored — текстовая MoE-модель для генерации ответов и творческого письма. По карточке автора, это объединение 12 дистиллированных моделей Qwen3 по 4 млрд параметров, включая модели с рассуждением; пользователь может выбирать экспертов, указывая их имена в запросе. В метаданных указаны архитектура Qwen3 MoE, 3,7 млрд параметров, библиотека Transformers и контекст до 262 144 токенов; автор заявляет об активации двух экспертов по умолчанию и возможности задействовать до 12. Модель предназначена для диалогов, рассуждений, математики, программирования и создания художественных текстов, в том числе хоррора и романтики. Сильная сторона — переключение между экспертами для разных запросов; результат и скорость зависят от выбранных экспертов и их числа. Автор предупреждает, что модели нужно явно задавать желаемый стиль и уровень откровенности, а чрезмерное квантование может заметно ухудшить работу. По README, модель аблитерирована для уменьшения отказов и рассчитана на генерацию откровенного, в том числе NSFW-контента. Лицензия в метаданных — Apache-2.0.

Qwen3-Zero-Coder-Reasoning-0.8B — компактная модель генерации текста для программирования, созданная DavidAU на платформе Qwen3. По карточке модели, это объединение двух моделей размером 0,6 млрд параметров; метаданные указывают базовые репозитории Qwen/Qwen3-0.6B и suayptalha/Qwen3-0.6B-Code-Expert. Модель имеет плотную архитектуру Qwen3ForCausalLM и содержит около 684 млн параметров. Модель предназначена для генерации кода, подготовки черновиков, обсуждения идей и решения многошаговых задач программирования с рассуждениями. Она поддерживает диалог и интерфейс вызова инструментов; заявленная длина контекста — до 40 960 токенов. README рекомендует контекст от 8 000 до 16 000 токенов, шаблон Jinja или ChatML и настройку параметров генерации под сложность задачи. Карточка заявляет высокую скорость генерации и пригодность как для простых, так и для сложных запросов, однако независимые оценки качества не приведены. Модель работает с текстовыми запросами и выдаёт текст, включая код; язык карточки — английский, а пригодность для других языков отдельно не уточняется. Лицензия — Apache-2.0. Модель распространяется в формате Safetensors; автор также описывает создание квантованных вариантов.

AM014/qwen-cpp-optimized-16bit — дообученная языковая модель AM014 на базе unsloth/qwen2.5-coder-7b-instruct-bnb-4bit. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. В карточке указано, что обучение выполнялось с помощью Unsloth и библиотеки TRL; модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 32 768 токенов. Модель подходит для генерации и продолжения кода, помощи с программированием и ответов на запросы в чате. Опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Поскольку описание не приводит результатов оценки или подробностей дообучения, качество на конкретных языках программирования и задачах не установлено.

Qwento-Agentic — экспериментальный чекпойнт от groxaxo, созданный дообучением Qwen/Qwen-AgentWorld-35B-A3B для задач программирования. Это модель семейства Qwen3.5 MoE с 35 млрд параметров и примерно 3 млрд активных параметров; в README указаны гибридная архитектура DeltaNet и полное внимание, 256 экспертов и 40 слоёв. Модель принимает текст и, согласно метаданным базовой модели, предназначена для работы с текстовыми и интерфейсными сценариями; в карточке репозитория также заявлена задача image-text-to-text, но авторские метаданные и каталог классифицируют её как text-generation. Чекпойнт получен коротким этапом QLoRA-дообучения на публичных наборах с примерами рассуждений и затем объединён с базовыми весами в формате BF16 safetensors. Эксперты MoE оставались замороженными. Модель подходит для экспериментальной генерации кода и диалогового применения через совместимые среды Transformers или vLLM; метаданные отмечают интерфейс вызова инструментов. Объём обучения был небольшим, длина последовательности — 2K токенов, а опубликованных бенчмарков нет, поэтому качество и надёжность не подтверждены. Лицензия репозитория — Apache-2.0; README также указывает на наследование лицензии и ограничений базовой модели, поэтому перед распространением или развёртыванием следует сверить условия исходной карточки.

SimpleSD-30B-instruct — исследовательская языковая модель Apple, созданная методом Simple Self-Distillation: модель дообучили на собственных сгенерированных примерах без учителя, функции вознаграждения, верификаторов и обучения с подкреплением. Для инициализации использована Qwen3-30B-A3B-Instruct-2507; архитектура — Qwen3 MoE, веса опубликованы в формате safetensors. В метаданных указано 2,6 млрд параметров и контекст до 262 144 токенов. Модель предназначена прежде всего для генерации кода и диалогового выполнения инструкций. Её можно применять для генерации фрагментов кода и исследования само-дистилляции языковых моделей. В README приведены параметры сэмплирования для обучения и оценки, а также пример загрузки через Transformers. Это исследовательский чекпойнт для воспроизводимости экспериментов, не оптимизированный релиз Qwen. Лицензия — Apple AMLR; перед использованием следует учитывать её условия.

ToRA Code 34B v1.0 GGUF — это квантизированная версия большой языковой модели ToRA Code 34B v1.0, разработанной LLM-Agents и преобразованной в формат GGUF пользователем TheBloke. Модель основана на архитектуре LLaMA, содержит около 34 миллиардов параметров и предназначена для локального запуска через llama.cpp и совместимые интерфейсы и библиотеки. Основные сценарии применения — генерация и анализ кода, а также решение математических задач. В качестве обучающих или оценочных наборов указаны GSM8K и Competition Math; заявленный язык — английский. Модель работает в режиме text-generation и использует шаблон запроса ToRA с ролями пользователя и ассистента. Данные о размере контекста, поддерживаемых модальностях, фактическом качестве и конкретных возможностях работы с инструментами не указаны. Формат GGUF поддерживает различные варианты квантизации от 2 до 6 бит, что позволяет выбирать компромисс между размером модели, требованиями к памяти и качеством. Файлы рассчитаны на инференс с использованием CPU и GPU и совместимы с llama.cpp и рядом сторонних приложений. Ограничения включают зависимость качества от выбранного уровня квантизации, высокие требования к ресурсам для 34B-модели и отсутствие гарантии корректности ответов, особенно в программировании и математике. Указана лицензия Llama 2.

axxd/wizardllama-7b — объединённая авторегрессионная языковая модель на архитектуре Llama, созданная методом SLERP с помощью mergekit на основе CodeLlama-7b-Python-hf и WizardCoder-Python-7B-V1.0. Веса представлены в формате Safetensors; модель содержит 6,6 млрд параметров и поддерживает контекст до 16 384 токенов. Модель предназначена для генерации и автодополнения кода, в первую очередь Python, на основе текстовых запросов. Объединение двух специализированных кодовых моделей может быть полезно при написании функций, фрагментов программ и ответов на вопросы о коде. В карточке нет результатов оценки качества или подробных рекомендаций по использованию. Лицензия — Apache-2.0.

CodeCompass-Embed — дообученная модель Faisal Mumtaz для поиска и извлечения фрагментов кода по смыслу. Она основана на Qwen2.5-Coder-0.5B, содержит 494 млн параметров и формирует векторы размерности 896. В модели использована двунаправленная attention-механика; для получения эмбеддингов поддерживаются NL→Code, Code→Code, поиск ответов на технические вопросы и Text→SQL. Модель предназначена для семантического поиска по репозиториям, базам кода и техническим коллекциям. В README указана поддержка запросов на естественном языке и кода на Python, Java, JavaScript, Go, Ruby и PHP. Метаданные указывают контекст 32 768 токенов, а карточка описывает обучение на длине 512 токенов с экстраполяцией RoPE для более длинных входов. По результатам CoIR модель показывает сильные результаты, особенно на Python. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Среди ограничений — более слабые результаты на языках программирования, отличных от Python, ухудшение на задачах соревновательного программирования с длинными решениями и возможное слабое обобщение на редкие языки программирования.

CodeLlama-7b-Python-hf — языковая модель Meta из семейства Code Llama, предназначенная для генерации и понимания кода с особым упором на Python. Это авторегрессионная плотная Transformer-модель класса LlamaForCausalLM с 6,6 млрд параметров и контекстом до 16 384 токенов. Репозиторий содержит версию для Transformers в форматах PyTorch и Safetensors. Модель принимает текст и генерирует текст. Она подходит для автодополнения кода, генерации фрагментов на Python и помощи при разборе кода. Это не instruct-версия: карточка отмечает поддержку автодополнения, но не диалогового режима и не выполнения инструкций. Основной язык применения — английский; модель специализирована на Python. Модель разработала Meta и выпустила в августе 2023 года. Использование регулируется лицензией Llama 2 от Meta; перед применением следует соблюдать условия лицензии и правила допустимого использования. Модель может выдавать неточный или нежелательный код, поэтому результаты требуют проверки и тестирования в целевом приложении.

DeepSeek-Coder-Instruct-8x1.3b — чат-модель для генерации текста, опубликованная SanjiWatsuki. Это объединение нескольких моделей с помощью mergekit; архитектура Mixtral использует разреженную смесь экспертов. В репозитории указано 1,3 млрд параметров и контекст до 16 384 токенов. Модель предназначена для диалогового использования и генерации текста; название указывает на специализацию на программировании, однако README не описывает конкретные возможности или качество в задачах кодирования. Файлы опубликованы в формате safetensors. Лицензия — Apache-2.0. README не раскрывает состав объединения, поэтому базовые модели определить нельзя.

Dolphin3.0-Llama3.2-1B-GGUF — это GGUF-квантизации языковой модели Dolphin3.0-Llama3.2-1B, опубликованные и подготовленные пользователем bartowski. Модель основана на cognitivecomputations/Dolphin3.0-Llama3.2-1B и предназначена для генерации текста, включая работу через llama.cpp и LM Studio. Указан английский язык. Модель имеет размер 1B параметров и представлена в вариантах от F32 и F16 до разных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 0,64 до 4,95 ГБ, что позволяет выбирать между качеством и требованиями к оперативной памяти. В README приведён формат диалога с ролями system, user и assistant. Среди обучающих данных указаны наборы для программирования, математических задач, function calling, instruction tuning и диалогов. К сильным сторонам относятся широкий выбор квантизаций, возможность локального запуска и сравнительно небольшие требования к ресурсам; варианты Q4_K_M, Q5 и Q6 отмечены как рекомендуемые для разных сценариев. Более агрессивная квантизация снижает качество, а конкретные возможности модели, например мультимодальность, длина контекста и поддержка других языков, в README не указаны. Лицензия обозначена как llama3.2.

evolvedSeeker-13 — экспериментальная разговорная модель для генерации кода, созданная TokenBender на основе deepseek-ai/deepseek-coder-1.3b-base. Модель дообучена на 50 тысячах инструкций за три эпохи; данные в основном взяты из наборов evolInstruct и glaive coder, а около трёх тысяч ответов дополнительно переработаны с помощью self-instruct. Для общения автор рекомендует формат ChatML; также подходит Alpaca с учётом токена EOT. Модель предназначена для быстрого помощника по коду, автодополнения, подготовки наборов данных и оценки моделей. Она содержит 1,3 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 16 384 токенов. README называет её ранней версией проекта PIC и отмечает, что большая часть работы ещё впереди. Автор предупреждает, что небольшой размер ограничивает способность к рассуждению и может приводить к ошибкам. Лицензия в предоставленных данных не указана.

Fara1.5-27B-GGUF — это квантизированная GGUF-версия мультимодальной модели Fara1.5-27B, разработанной Microsoft. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для сценариев computer use, управления браузером, автоматизации веб-задач и работы веб-агентов с визуально-языковым вводом. Модель имеет размер 27B параметров, поддерживает обработку текста и изображений и заявлена для английского языка. Доступны варианты от BF16 до различных уровней Q2–Q8-квантизации; размеры файлов составляют примерно от 12 до 54 ГБ. Наиболее качественными считаются BF16, Q8_0 и варианты Q6, а Q4_K_M предлагает компромисс между качеством и размером. Для запуска подходят llama.cpp, LM Studio, Ollama-совместимые инструменты и другие приложения с поддержкой GGUF, однако для недавно поддерживаемых архитектур может потребоваться обновление программного обеспечения. Сильные стороны модели — мультимодальность, ориентация на автоматизацию действий и широкий выбор квантизаций для разного объёма памяти. Ограничения включают неизвестные из README размер контекста и подробности архитектуры, а также возможное снижение качества на низких уровнях квантизации. Указана лицензия MIT; базовая модель — microsoft/Fara1.5-27B.

GemCod-R-Sapphire-270M — компактная текстовая модель для генерации кода, созданная DireDreadlord на базе Gemma 3 и дообученная методом SFT на наборе Code-Reasoning-4k. Она предназначена для генерации фрагментов и более длинных программ по инструкциям на естественном языке, а также для пояснений к коду и ответов на вопросы по программированию. Модель использует плотную архитектуру Gemma3ForCausalLM, содержит около 257 млн параметров и поддерживает контекст до 32 768 токенов. Карточка заявляет поддержку основных языков программирования и описывает её как пригодную для запуска на ноутбучных GPU; основной язык карточки — английский. Модель распространяется по лицензии Gemma. Это экспериментальная модель: заявленные в карточке улучшения рассуждений и снижение галлюцинаций не подкреплены приведёнными оценками, поэтому сгенерированный код и объяснения нужно проверять. Карточка прямо рекомендует экспериментальное использование.

GLM-5.3-Flash-Uncensored-EXL3 — квантизированная версия uncensored (abliterated) модели GLM-5.3-Flash. Модель подготовлена neko-legends на основе FP8-версии orcarouter/GLM-5.3-Flash-Uncensored, происходящей от zai-org/GLM-5.3-Flash; калибровочные материалы связаны с проектом ShapleyMcg Brandon M. Music. Репозиторий классифицирует модель как multimodal и image-text-to-text, однако подробные сведения о поддерживаемых модальностях и языках в карточке не приведены. Модель предназначена для локального развёртывания, авторизованного red-team и purple-team тестирования, аудита и защиты собственных систем, анализа вредоносного содержимого, а также исследовательских и персональных сценариев. Это MoE-модель с 288 экспертами в 42 слоях; маршрутизируемые эксперты закодированы в EXL3/K4 с эффективной разрядностью 4 bpp, а остальные компоненты хранятся преимущественно в BF16. Заявлены контекст до 1 млн токенов, объём около 176 ГБ и скорость примерно 97 токенов в секунду в однопоточном режиме на конфигурации 4× DGX Spark TP4 с DFlash2 speculative decoding. К сильным сторонам относятся большой контекст, высокая скорость локального инференса и сохранение uncensored-поведения после квантизации. Ограничения включают значительные требования к памяти и оборудованию, отсутствие встроенного отказоустойчивого alignment, а также отсутствие в карточке независимых оценок возможностей, безопасности и смещений сверх указанных benchmark-материалов. Лицензирование смешанное: цепочка весов заявлена под MIT, а калибровочные артефакты и trellis-коды — под ShapleyMcg License v1.0 с обязательной атрибуцией и специальными условиями; перед использованием необходимо учитывать обе лицензии.

Kimi-K2T-ling-coder-sft-sandboxes-1-maxeps-32k — дообученная компанией LAION модель Qwen3-8B для генерации текста в диалоговом формате. Она обучена на наборе open-athena/Kimi-K2T-ling-coder-sft-sandboxes-1-maxeps-32k; название набора указывает на специализацию, связанную с кодом и песочницами, однако README не описывает конкретные сценарии или результаты обучения. Модель имеет плотную архитектуру Qwen3ForCausalLM, содержит 7,6 млрд параметров и поддерживает контекст до 40 960 токенов. Она принимает текст и выдаёт текст; метаданные указывают на диалоговую возможность. Модель распространяется в формате safetensors по лицензии Apache-2.0. Это производная версия Qwen/Qwen3-8B, дообученная на указанном наборе данных. Практическое качество, точное поведение при работе с кодом и ограничения не описаны в карточке, поэтому их следует проверять на целевых задачах.

BenjaminHelle/LFM2.5-1.2B-Instruct-Code-V1.1 — дообученная и конвертированная в GGUF версия LFM2.5-1.2B-Instruct-Code, подготовленная с помощью Unsloth. Это плотная языковая модель семейства LFM2 для генерации текста в формате чата; размер по метаданным — 1,5 млрд параметров, контекст — до 128 000 токенов. В репозитории доступны варианты GGUF Q4_K_M и Q8_0 для запуска через llama.cpp. Модель предназначена для диалоговой генерации текста и сценариев, связанных с кодом. Карточка не приводит результаты бенчмарков, перечень поддерживаемых языков или подробные сведения о качестве на задачах программирования. Лицензия в предоставленных данных не указана.

Korabbit/Llama-2-7b-chat-hf-afr-100step-v2 — экспериментальная чат-модель Korabbit, основанная на Llama-2-7b-chat и обученная автором с использованием подхода «AFR training». В карточке приведён пример ответа на инструкцию реализовать бинарный поиск на Python; метаданные указывают архитектуру LlamaForCausalLM, около 6,6 млрд параметров и контекст до 4096 токенов. Модель предназначена для диалоговых ответов на инструкции и общих текстовых запросов, включая вопросы о программировании. В метаданных указан английский язык и набор данных vicgalle/alpaca-gpt4. Указана лицензия llama2. README описывает подход к обучению лишь кратко, поэтому его детали и качество модели по примеру оценить нельзя.

Lyte/Llama-3.2-3B-Overthinker — экспериментальная разговорная языковая модель, разработанная Lyte на основе дообучения unsloth/llama-3.2-3b-instruct-bnb-4bit. Модель семейства Llama имеет плотную архитектуру LlamaForCausalLM и содержит 3,2 млрд параметров. Она генерирует текст и рассчитана на диалоговые сценарии с пошаговым рассуждением, проверками промежуточных шагов и итоговым ответом; в README отмечены объяснение тем, творческие задачи и поддерживающие беседы.