II.4Отладка, тестирование и качество ПО

Open-Instruct GPT-4 Alpaca 7B — языковая модель семейства LLaMA, разработанная исследователями AllenAI и дообученная на наборе инструкций GPT-4 Alpaca в рамках исследования по настройке открытых моделей на инструкции. Это плотная авторегрессионная модель примерно на 6,6 млрд параметров для генерации текста и выполнения пользовательских инструкций на английском языке; для качественной генерации рекомендуется использовать обученный формат запросов. Контекст составляет 2048 токенов. Модель подходит для диалоговых ответов, следования инструкциям, решения задач, вопросов и генерации кода. В карточке приведены результаты тестирования на MMLU, GSM, BBH, TydiQA, Codex-Eval и AlpacaFarm. Репозиторий содержит diff весов, поэтому для использования требуется доступ к исходной модели LLaMA в формате Hugging Face. Указана лицензия AI model license вместе с исходной лицензией LLaMA; условия следует проверять в соответствующих файлах лицензии.

Open-Instruct ShareGPT 65B — языковая модель AllenAI на архитектуре LLaMA с 65 млрд параметров, дообученная на очищенном наборе ShareGPT. Она предназначена для генерации ответов на инструкции и диалоговые запросы; карточка также приводит результаты на тестах знаний, математики, рассуждений, вопросов и ответов и генерации кода. Модель принимает текст и выдаёт текст, рассчитана на английский язык и поддерживает контекст до 2048 токенов. Это diff-модель: для использования нужны исходные веса LLaMA в формате Hugging Face, к которым применяются изменения модели. В README указаны лицензия AI model license и исходная лицензия LLaMA; перед использованием необходимо учитывать условия обеих лицензий. Качество генерации зависит от соблюдения описанного в карточке формата входного запроса.

unsloth/Qwen2.5-1.5B-unsloth-bnb-4bit — 4-битно квантованная версия базовой языковой модели Qwen2.5-1.5B, подготовленная Unsloth на основе Qwen/Qwen2.5-1.5B. Модель предназначена для генерации и продолжения текста, программирования, математических задач, обработки структурированных данных и последующего дообучения. Это текстовая, авторегрессионная causal language model без заявленной поддержки изображений или других модальностей. Ключевая особенность варианта — формат Unsloth Dynamic 4-bit Quant, который избирательно применяет квантование для снижения требований к памяти при сохранении качества по сравнению со стандартными 4-битными вариантами. Семейство Qwen2.5 поддерживает контекст до 128K токенов и генерацию до 8K токенов, а также более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Точные архитектурные параметры именно версии 1.5B в представленном README не указаны; приведённый там блок с характеристиками 0.5B относится к другой конфигурации. Модель выигрывает за счёт небольшого размера и сниженного потребления памяти, что делает её подходящей для локального запуска, экспериментов и эффективного fine-tuning. Как базовая, а не instruction-tuned модель, она не оптимизирована для диалогов без дополнительного дообучения и может требовать настройки шаблонов и параметров генерации. Лицензия — Apache-2.0.

lmstudio-community/Qwen2.5-3B-Instruct-GGUF — это квантованная версия языковой модели Qwen2.5-3B-Instruct, разработанной командой Qwen. Формат GGUF подготовлен bartowski на основе llama.cpp. Модель предназначена для генерации текста, диалоговых сценариев и работы с инструкциями, включая понимание и генерацию структурированных данных. Модель поддерживает контекст до 32 тысяч токенов и генерацию до 8 тысяч токенов. Она обучена работать более чем с 29 языками, включая английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся широкий охват знаний, многоязычность и поддержка длинного контекста. Как и другие генеративные модели, она может создавать неточные, вредные или неподходящие ответы, поэтому результаты требуют проверки. Модель распространяется по лицензии Qwen Research; применимые условия указаны в лицензии исходной модели Qwen2.5-3B-Instruct.

bunnycore/Qwen2.5-7B-R1-Bespoke-Stock — объединённая языковая модель, созданная с помощью mergekit методом Model Stock. В качестве базовой использована huihui-ai/Qwen2.5-7B-Instruct-abliterated-v3; в объединение также вошли bunnycore/Qwen2.5-7B-R1-Bespoke-Task, deepseek-ai/DeepSeek-R1-Distill-Qwen-7B и bespokelabs/Bespoke-Stratos-7B. Модель построена на архитектуре Qwen2 с плотной causal language model, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового использования. Она может применяться для ответов на запросы и многошаговых рассуждений; базовая DeepSeek-R1-Distill-Qwen-7B ориентирована, в частности, на математику и программирование, но README не приводит отдельных оценок возможностей именно этого объединения. Репозиторий содержит веса в формате safetensors и рассчитан на библиотеку Transformers. Язык лицензии в предоставленных данных не указан.

6block/Qwen3-14B-GGUF — набор GGUF-квантизированных версий языковой модели Qwen3-14B, разработанной Qwen. Квантизацию выполнил 6block с использованием llama.cpp и метода imatrix; исходная модель доступна как Qwen/Qwen3-14B. Модель предназначена для генерации текста и программного кода, включая двуязычные сценарии на английском и китайском языках, и может применяться локально через llama.cpp, LM Studio, Ollama и совместимые проекты. Доступны варианты квантизации от Q8_0 до Q2_K размером примерно от 15,70 до 5,75 ГБ. Для калибровки использовался датасет с английскими, китайскими и программными текстами, что должно помогать сохранять способности к работе с китайским языком и кодом в моделях с низкой разрядностью. Более высокие варианты обычно обеспечивают лучшее качество, а низкоразрядные требуют меньше памяти, но сильнее ограничены потерями качества; I-кванты могут быть эффективнее по качеству на размер, но медленнее K-квантов на CPU. Архитектура, длина контекста и точный набор поддерживаемых языков в карточке не указаны. Модель распространяется по лицензии Apache 2.0. Для запуска требуется подходящее локальное программное обеспечение и объём RAM или VRAM, соответствующий выбранному файлу; конкретные требования зависят от варианта квантизации.

Qwen3-4B-RKNN3-RK1828 — версия языковой модели Qwen3-4B, подготовленная проектом Firefly для запуска на устройстве RK1828 через LlamaPi. Это плотная причинная модель семейства Qwen3 примерно на 3,7 млрд параметров с форматом GGUF и контекстом до 40 960 токенов. Она предназначена для генерации текста, диалогов, следования инструкциям, рассуждений, программирования и агентных сценариев; поддерживает режимы с рассуждением и без него, а также интерфейс вызова инструментов. Модель принимает текст и выдаёт текст. Исходная Qwen3-4B поддерживает более 100 языков и диалектов. Карточка предлагает запуск через LlamaPi на RK1828. Модель распространяется по лицензии Apache-2.0. Производительность и качество зависят от устройства и конфигурации; возможности конкретной сборки для вызова инструментов следует проверять в целевой среде.

OBLITERATUS/Qwen3.6-27B-OBLITERATED — открытая текстовая языковая модель, разработанная OBLITERATUS на основе Qwen/Qwen3.6-27B. Модель предназначена для локальной генерации текста, диалогов, программирования, следования форматам и исследовательских задач, связанных с анализом и снижением отказов. Это не промпт-обёртка и не дообучение в обычном смысле: применён метод source-tethered ASPA, изменяющий веса модели для уменьшения отказов при сохранении исходных возможностей. Модель содержит 26,9 млрд параметров и доступна в формате bfloat16 safetensors, а также в вариантах GGUF Q4_K_M, Q5_K_M, Q6_K и Q8_0. Поддерживаются Transformers, vLLM, TGI, llama.cpp, Ollama, LM Studio, Jan и другие совместимые локальные среды. Это текстовая модель без vision encoder и мультимодальных компонентов; сведения о языках и размере контекстного окна в карточке не указаны. Для работы рекомендуется использовать современные версии runtime и корректный chat template. Ключевая особенность модели — существенно сниженный уровень отказов: по данным карточки, на внутреннем наборе из 842 парных запросов показатель отсутствия отказа составил 95,84% при прохождении проверки качества в 93,94%, а на 1 920 строках прокси-теста HarmBench — 93,65%. При этом на указанных срезах MMLU-Pro результаты совпали с базовой моделью: 51/70 на валидационном и 36/70 на отложенном срезе. Эти результаты отражают заявленные авторами проверки и не гарантируют одинаковое поведение во всех сценариях; остаточные отказы сохраняются в отдельных областях, а снижение защитных ограничений может быть нежелательно для задач, требующих встроенных механизмов безопасности. Модель распространяется по лицензии Apache-2.0. Для полной версии safetensors требуется примерно 50 ГБ локального пространства, крупнейший публичный GGUF Q8_0 занимает около 28,6 ГБ.

llmfan46/Qwen3.6-35B-A3B-uncensored-heretic — мультимодальная чат-модель независимого автора, созданная на основе Qwen/Qwen3.6-35B-A3B. Это вариант с ослабленным отказом на запросы: в карточке приведено сравнение, где доля отказов составляет 10 из 100 против 83 из 100 у исходной модели. Модель предназначена для диалога, анализа изображений и сценариев агентного программирования с вызовом инструментов. Архитектура Qwen3.5 MoE содержит 35 млрд параметров, из которых активируется около 3 млрд; README также описывает языковую модель с визуальным энкодером и 262 144 токена нативного контекста, расширяемого до 1 010 000. Указаны возможности сохранения рассуждений в истории диалога и результаты тестирования MMLU, но эти сведения не гарантируют качество на конкретных задачах. Модель принимает текст и изображения и выдаёт текст. Файлы представлены в формате safetensors, библиотека для работы — Transformers. Лицензия Apache-2.0. Поскольку модель специально снижает число отказов, она может отвечать на запросы, которые исходная модель отклоняет; ответы следует проверять, особенно в чувствительных сценариях.

benjzzz/Qwen3.8-27B-BenQ-6bit — квантованная версия мультимодальной модели Qwen3.8-27B, опубликованная автором benjzzz. Веса и vision tower представлены методом BenQ: 6-битные коды с отдельной таблицей значений для каждой строки, что, по README, даёт 6,16 бит на вес с учётом таблиц. Модель принимает текст и изображения и предназначена для диалогов, анализа изображений и программирования; метаданные также указывают интерфейс вызова инструментов. Для генерации текста в README приведён пример с кодом Python.

blastbeng/Qwen3.8-27B-TURBO — открытая многоэтапно дообученная и объединённая версия модели Qwen3.8-27B, разработанная автором репозитория blastbeng на базе модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В README указано использование Unsloth, методов Cold Fusion и Fable Fusion, а также наборов данных DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Модель распространяется в вариантах GGUF, включая обычные и MTP-квантизации, с матрицами Neo-CODER MAX DI-MATRIX. Модель предназначена для широкого круга задач: рассуждений и решения задач, программирования, творческого письма, генерации художественных текстов и ролевых сценариев. Заявлены поддержка английского и китайского языков, текстово-изображенческий pipeline tag, а также три режима мышления. Основной размер модели — 27 млрд параметров; доступны как минимум 4-битные и 8-битные варианты. По утверждению автора, Turbo-версия сокращает объём рассуждений до примерно половины, а в отдельных случаях до одной десятой от объёма базовой версии, сохраняя детализацию и качество вывода. Сильными сторонами заявлены высокая скорость генерации, сниженное избыточное рассуждение, развитые способности к программированию, творческим задачам и вызову инструментов, а также производительность на потребительском оборудовании. В README приведены авторские результаты ARC-C до 735 в 8-битном режиме и свыше 718 в 4-битном, однако методика и независимое подтверждение этих показателей не описаны. Ограничения включают отсутствие сведений о размере контекста, точной поддержке изображений, системных требованиях и стабильности поведения; характеристики следует проверять отдельно для выбранной квантизации. Лицензия указана как Apache-2.0.

ChatHercules-2.5-Mistral-7B — диалоговая языковая модель, созданная объединением Locutusque/Hercules-2.5-Mistral-7B и openchat/openchat-3.5-0106 методом SLERP с помощью LazyMergekit. Модель построена на плотной архитектуре Mistral для генерации текста и имеет 7,1 млрд параметров; для работы с длинными диалогами заявлен контекст до 32 768 токенов. Модель предназначена для общения и генерации ответов в сценариях общего назначения. В описании базовой модели также указаны программирование и математические рассуждения. Репозиторий содержит веса в формате Safetensors, а лицензия — Apache-2.0. Карточка приводит результаты оценки на Open LLM Leaderboard, но не описывает отдельные ограничения или подробную языковую специализацию этой сборки.

Модель bcoding — дообученная версия unsloth/DeepSeek-R1-0528-Qwen3-8B на архитектуре Qwen3 с причинным языковым моделированием. Она предназначена для диалогов и генерации текста; каталог также указывает интерфейс вызова инструментов. Размер модели — 7,6 млрд параметров, контекст — до 131 072 токенов. В карточке указано, что обучение проводилось с Unsloth и библиотекой TRL. Модель может применяться для диалоговых ответов, рассуждений, решения задач по математике и логике, а также помощи с программированием — эти сценарии указаны для базовой модели в описании каталога. Поддерживаемый язык карточки — английский. Репозиторий распространяется в формате Safetensors по лицензии Apache 2.0.

Карточка модели nguyenthilaitrieulong/DeepSeek-R1-Distill-Llama-70B-abliterated на Hugging Face совпадает с карточкой huihui-ai/DeepSeek-R1-Distill-Llama-70B-abliterated, поэтому описание составлено по ней. Это экспериментальная версия DeepSeek-R1-Distill-Llama-70B, созданная huihui-ai методом abliteration: из модели удаляли склонность отказываться от ответов. Это плотная причинно-следственная языковая модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов; она работает через Transformers и принимает и выдаёт текст. Модель предназначена для диалогов и генерации текста, в том числе для математических рассуждений, программирования и ответов на сложные вопросы — эти возможности унаследованы от базовой модели. Вариант с abliteration нацелен на ответы без типичных отказов, однако автор описывает метод как грубый proof of concept. Лицензия в предоставленных данных не указана.

DeepSeek V4 Flash 4Expert Q4K GGUF — это 4-битная квантизированная версия варианта DeepSeek V4 Flash с архитектурой MoE и MLA, опубликованная cloudyu. В конфигурации используются четыре активных эксперта на токен и 43 слоя; эксперты хранятся в формате Q4_K, а проекции внимания и веса общего эксперта — Q8_0. Репозиторий содержит модель в формате GGUF объёмом около 153 ГиБ. Модель предназначена для генерации текста, включая написание кода, рассуждения и ответы на вопросы. README сообщает о результатах оценки на HumanEval, AIME 2025, GPQA Diamond и SuperGPQA; это результаты автора репозитория, а не независимая гарантия качества. Карточка указывает английский и китайский языки. Для запуска требуется движок ds4 с поддержкой конфигурации 4Expert; стандартная upstream-версия ds4 без соответствующих изменений этот файл не загружает. Лицензия — Apache-2.0.

DeepSeek V4 Flash REAP K128 — это экспериментальная структурно прореженная версия DeepSeek V4 Flash, подготовленная sleepyeldrazi. Метод REAP от Cerebras Research удаляет 50% маршрутизируемых экспертов в слоях Mixture-of-Experts, сохраняя внимание, эмбеддинги, общих экспертов, маршрутизатор и компоненты MTP. Это GGUF-модель смешанной точности: в слоях 37–42 используются эксперты Q4_K, в остальных — IQ2_XXS/Q2_K. Для запуска требуется среда ds4, поддерживающая выбор типа квантования по слоям. Модель предназначена для генерации текста и диалогов, в том числе для задач программирования, вызова инструментов и поиска знаний. Для калибровки использованы 8 000 промптов на 5 млн токенов; автор сообщает о прореживании без дообучения и без изменения весов сохранённых экспертов. Модель распространяется по лицензии MIT. Для запуска требуется совместимый runtime; README предупреждает о несовместимости с некоторыми средами, ожидающими тензоры экспертов IQ2_XXS.

EttinX-sts-m — англоязычный cross-encoder для оценки семантического сходства двух текстов. Модель разработана dleemiller на основе jhu-clsp/ettin-encoder-150m и дообучена на sentence-transformers/stsb после предварительного обучения на подмножестве pair-score-sampled датасета dleemiller/wiki-sim. Модель использует архитектуру ModernBERT и содержит 149 млн параметров. Она принимает пары текстов и возвращает оценку сходства от 0 до 1; заявленная длина контекста — около 8 тыс. токенов. По README, на тестовой части STS-Benchmark достигнуты корреляции Pearson 0,9143 и Spearman 0,9102. Модель подходит для ранжирования пар по сходству, сравнения ответов и оценки результатов LLM. Распространяется по лицензии MIT.

Gemma-4-12B-it-qat-JANG_4M-CRACK — дообученная и квантизированная версия Gemma 4 12B-it от dealignai. Это плотная мультимодальная модель семейства Gemma4 Unified с единым ранним слиянием модальностей и гибридным скользящим и глобальным вниманием. Она принимает текст, изображения и аудио и предназначена для диалогов, рассуждений, ответов на вопросы и генерации кода; карточка также заявляет многоязычную поддержку и сохранение возможностей базовой модели в работе с изображениями и аудио. Модель использует схему JANG_4M: 8-битное квантование внимания и 4-битное квантование MLP. Разработчик сообщает о 84,2% на MMLU и 97% выполнении вредоносных запросов в тесте HarmBench, где отказ от ответов на такие запросы был удалён. Поэтому модель рассчитана на сценарии без стандартных отказов по этим категориям и требует осторожного контроля применения. Для запуска рекомендованы приложение или API vMLX и Mac на Apple Silicon с достаточной объединённой памятью; стандартные mlx_lm и mlx_vlm, согласно карточке, не обеспечивают полной поддержки Gemma 4. Лицензия — Gemma; разработчик указывает исследовательское назначение и возлагает ответственность за соблюдение применимых законов на пользователей.

Gemma 4 26B-A4B-it QAT JANG_4M CRACK — мультимодальная доработанная версия Gemma 4 от dealignai. Она сочетает архитектуру MoE с 128 экспертами и выбором восьми активных экспертов, гибридное внимание и квантизацию JANG_4M: 8 бит для attention и 4 бита для MLP. Модель принимает текст и изображения и отвечает текстом; карточка заявляет поддержку рассуждений, визуальных запросов, вопросов и ответов и генерации кода. Модель рассчитана на общие диалоговые сценарии, включая анализ изображений, многошаговые рассуждения и написание кода. По результатам, приведённым в README, её показатель MMLU составляет 79,8% против 84,2% у базовой модели; автор также сообщает о сохранении визуальных возможностей и снижении отказов на тесте HarmBench. Для запуска требуются Mac на Apple Silicon с достаточным объёмом объединённой памяти и vMLX с поддержкой Gemma 4. Лицензия — Gemma; README указывает исследовательское назначение и возлагает на пользователя ответственность за соблюдение применимого законодательства.

GLM-5.2-JANGTQ_K — квантованный вариант GLM-5.2 от Z.ai, подготовленный bearzi для запуска через MLX на компьютерах Apple с Apple silicon. Это языковая модель семейства GLM с архитектурой MoE и поддержкой чата; метаданные указывают 30,4 млрд параметров и контекст до 1 048 576 токенов. Профиль JANGTQ_K использует смешанную квантовку TurboQuant: routed-эксперты сжаты до 2 или 4 бит, а блоки внимания и индексатор DSA сохранены в FP16. Голова MTP удалена, поскольку она не используется в описанном режиме генерации MLX. Модель предназначена для генерации текста в диалоге, написания кода и длительных задач с большим контекстом. Для загрузки требуются около 260 ГБ объединённой памяти, пакет jang-tools и runtime MLX с патчем IndexShare; обычные MLX, LM Studio и Ollama этот набор не поддерживают без соответствующей доработки. В метаданных указана лицензия MIT.

GPT-5 Mini — компактная версия GPT-5 от OpenAI для задач рассуждения с умеренной вычислительной нагрузкой. Она рассчитана на сценарии, где важны меньшие задержки и стоимость при сохранении навыков следования инструкциям и настройки безопасности, характерных для GPT-5.

HuskyLM 2.5 — диалоговая языковая модель Darkcloud AI, дообученная на основе meta-llama/Meta-Llama-3-8B-Instruct с применением supervised fine-tuning, Direct Preference Optimization и собственной методики RLAIF. Это плотная Llama 3 модель для генерации текста и общения; в метаданных указаны 7,5 млрд параметров, контекст 8192 токена и формат Safetensors. Модель рассчитана на английский язык, а автор заявляет поддержку ряда других языков, включая китайский, испанский, французский и польский. Модель предназначена для следования системным инструкциям и общих диалоговых сценариев: написания текстов и кода, работы чат-агентом и создания реплик NPC. Среди заявленных достоинств — разговорные навыки, выполнение инструкций и дружелюбный тон. Она может ошибаться, несмотря на заявленный акцент на правдивости; сведения о знаниях ограничены декабрём 2023 года. Лицензия — Llama 3 License.

JiRackTernaryGemma4_26b — текстовая диалоговая модель CMSManhattan, созданная на основе Google Gemma 4 26B-A4B-it и адаптированная под тернарную архитектуру JiRack. Она предназначена для генерации текста, общения, программирования и работы с инструментами; в карточке также описаны сценарии маршрутизации и робототехники. Модель имеет архитектуру MoE: около 26 млрд параметров всего, примерно 4 млрд активны на токен, 128 экспертов с выбором top-8. Заявлен путь обучения с квантованием-aware training для тернарных весов; доступны GGUF-варианты от Q3_K_M до Q8_0 и F16, а также safetensors. Модель принимает текст и выдаёт текст. Зрительный модуль исходной Gemma 4 удалён, поэтому обработка изображений не поддерживается. Карточка указывает поддержку 14 языков: английского, китайского, японского, корейского, французского, испанского, португальского, немецкого, итальянского, русского, арабского, вьетнамского и тайского. Контекстный размер не приведён. Для тегов робототехники и маршрутизации рекомендуется расширенный токенизатор CMSManhattan/GemmaRoboticsTokenizer; дополнительные 107 токенов требуют расширения эмбеддингов и обучения новых строк перед генерацией соответствующих ID. Карточка ориентирует модель на локальный запуск через CPU, GGUF, llama.cpp и Ollama и приводит оценку требований к памяти для разных квантований. Автор предупреждает, что модель не проверялась на больших контекстах, и просит не переносить на неё результаты исходной Gemma 4. Лицензия — MIT.

LLaDA2.0-flash-CAP — языковая модель компании InclusionAI на основе диффузионной архитектуры Mixture-of-Experts. Она предназначена для генерации текста и диалоговых ответов, включая задачи знаний, рассуждений, программирования и математики. Обучение Confidence-Aware Parallel (CAP) повышает уверенность модели в корректных предсказаниях, чтобы ускорить параллельное декодирование. В README указана архитектура базовой LLaDA2.0-flash с 100 млрд параметров, 32 слоями, 32 головами внимания и контекстом 32 768 токенов; метаданные репозитория указывают 5,5 млрд параметров. В сравнении с базовой версией README сообщает ускорение генерации в 1,46 раза при небольшом снижении среднего результата на бенчмарках. Модель работает с текстом; для снижения риска смешения языков авторы рекомендуют температуру 0.0. Репозиторий распространяется по лицензии Apache-2.0.

RLHFlow/LLaMA3-SFT-v2 — диалоговый чекпойнт с контролируемой тонкой настройкой (SFT) от команды RLHFlow, подготовленный для проекта Online-RLHF и описанный в работе «RLHF Workflow: From Reward Modeling to Online RLHF». Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров и контекстом до 8192 токенов; веса представлены в safetensors и предназначены для использования через Transformers. Модель дообучена от meta-llama/Meta-Llama-3-8B на RLHFlow-SFT-Dataset-ver2 в течение двух эпох. Она предназначена для диалоговой генерации текста и может использоваться для ответов на вопросы, общих рассуждений и задач вроде математических задач и генерации кода. В README приведены результаты академических бенчмарков, включая GSM8K, MATH, HumanEval и MMLU; это результаты оценки, а не гарантия качества для конкретного применения. Карточка не описывает поддержку конкретных естественных языков и не приводит лицензию чекпойнта, поэтому такие сведения здесь не утверждаются. Как и другие языковые модели, она может выдавать фактически неверные ответы; показатели бенчмарков не заменяют проверку на целевых данных.

LongCat-Flash-Lite-Uncensored-Heretic-Native-MTP-Preserved — производная версия LongCat-Flash-Lite от независимого автора llmfan46, основанная на модели Meituan. Автор применил abliteration, чтобы уменьшить склонность модели отказывать в ответах: в карточке указаны 9 отказов из 100 в тесте против 100 из 100 у исходной модели. Это не гарантирует отсутствие ограничений или точность ответов. Модель предназначена для генерации текста в диалогах, программирования и агентных сценариях. В основе — плотная архитектура LongcatFlashNgramForCausalLM; метаданные каталога указывают 4,6 млрд параметров и контекст до 327 680 токенов. README описывает исходную LongCat-Flash-Lite как MoE-модель с N-граммными эмбеддингами, однако эти характеристики не следует переносить на производную версию без оговорки. Репозиторий содержит веса safetensors; заявлена лицензия MIT. README также указывает на необходимость минимум двух GPU с 80 ГБ видеопамяти для запуска через Transformers.

Luqwen4-4B — русскоязычная инструкционная текстовая модель, разработанная LLiserginov на основе Qwen3.5-4B-Base. Она дообучена методом LoRA/QLoRA и предназначена для диалогов, следования инструкциям, генерации художественных текстов и притч, решения задач по математике, физике, истории и аналитике, а также написания и объяснения программного кода. Модель также обучалась сценариям вызова инструментов, работе с API и файлами. Базовая модель содержит около 4 млрд параметров и использует гибридную архитектуру Qwen3.5 For Causal LM с Gated DeltaNet и Full Attention. Она включает 24 слоя, скрытую размерность 1024, словарь на 248 320 токенов и поддерживает контекст до 262 144 токенов. Дообучающие данные охватывают русский и английский языки; значительная часть корпуса посвящена креативному письму, русским инструкциям, притчам, веб-разработке, Windows batch-скриптам, логическим и математическим задачам на внимательность. Указанная максимальная длина последовательности при обучении составляет 4096 токенов. Сильные стороны модели — ориентация на русский язык, выразительная генерация, работа с инструкциями, кодом, инструментами и задачами на пошаговое рассуждение. Ограничения включают небольшой по современным меркам размер, возможные ошибки в математике, коде и фактических ответах, а также отсутствие заявленных количественных результатов оценки. Модель распространяется на условиях лицензии Apache-2.0; после обучения LoRA-адаптер был объединён с базовой моделью в формате 16-bit.

Manticore 13B Chat Pyg — языковая модель для диалогового и инструкционного текстового взаимодействия, разработанная Open Access AI Collective. Данная версия распространяется в формате GGUF и является квантизированным вариантом исходной модели Manticore 13B Chat Pyg; квантизацию выполнил TheBloke. Модель основана на архитектуре LLaMA, содержит около 13 миллиардов параметров и предназначена для генерации текста по шаблону диалога Vicuna: ответов на вопросы, объяснений, инструкций и других чат-сценариев. В метаданных указан английский язык, а среди использованных наборов данных — коллекции ShareGPT, WizardLM, Alpaca, GPT4-LLM, ScienceQA, GSM8K и другие наборы для обучения инструкциям, диалогам, рассуждениям и программированию. Файлы GGUF доступны с различными уровнями квантизации от 2 до 8 бит, что позволяет выбирать баланс между размером, скоростью и качеством вывода. Модель совместима с llama.cpp и рядом сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и ctransformers, с поддержкой CPU+GPU-инференса. Мультимодальность и размер контекстного окна в README не указаны; модель предназначена для работы только с текстом. Лицензия обозначена как other, но ее конкретные условия не приведены, поэтому перед использованием необходимо проверить лицензию исходной модели и условия распространения квантизированных файлов.

Карточка модели tuneai/Meta-Llama-3-8B на Hugging Face совпадает с карточкой meta-llama/Meta-Llama-3-8B, поэтому описание составлено по ней. Meta Llama 3 8B — авторегрессионная языковая модель Meta с оптимизированной архитектурой Transformer и Grouped-Query Attention. Эта версия принимает текст и генерирует текст, в том числе код. Семейство Llama 3 включает предварительно обученные и дообученные для инструкций модели; карточка этой модели описывает базовый предварительно обученный чекпойнт, пригодный для адаптации к различным задачам генерации текста. Модель предназначена для коммерческого и исследовательского применения на английском языке. Её можно использовать как основу для генерации текста и кода, а после адаптации — для диалоговых сценариев. Выпущена в апреле 2024 года и распространяется по пользовательской коммерческой лицензии Meta Llama 3. Карточка не приводит для этого репозитория конкретную длину контекста; сама модель статична и обучена на офлайн-данных. Для развёртывания приложений разработчикам следует самостоятельно подбирать меры безопасности под свой сценарий.

bartowski/MiMo-V2.5-Pro-GGUF — это набор GGUF-квантизаций языковой модели MiMo-V2.5-Pro, разработанной XiaomiMiMo. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix; исходная модель указана как XiaomiMiMo/MiMo-V2.5-Pro. Модель предназначена для генерации текста, работы с агентскими сценариями, задачами программирования и применений с длинным контекстом. В карточке указаны английский и китайский языки, текстовая модальность и формат GGUF для запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Длина контекста, точная архитектура и число параметров не указаны. Доступно множество вариантов квантования от IQ1 до Q4, с размерами файлов примерно от 212 до 640 ГБ; Q4_K_M отмечен как рекомендуемый вариант с хорошим качеством, а более компактные варианты экономят память ценой снижения качества. К сильным сторонам относятся поддержка разных уровней компромисса между качеством и требованиями к памяти, совместимость с экосистемой llama.cpp и возможность локального запуска. Ограничения — очень большой размер файлов, зависимость от поддержки модели конкретным инструментом и ухудшение качества у низкобитных квантов, особенно IQ1 и некоторых Q2–Q3 вариантов. В карточке указана лицензия MIT.