II.2Создание и понимание программного кода
В разделе собраны самостоятельные задачи, где AI помогает писать, объяснять и связывать программный код с требованиями и существующей системой. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
21 443 моделиhharsha/agentic-github-tagger — компактная модель генерации тегов, разработанная на базе T5-small и дообученная автором карточки на датасете hharsha/agentic-github-meta с помощью LoRA; адаптер затем объединён с базовыми весами. Модель преобразует текстовые описания проектов в стиле GitHub в список тегов через text-to-text генерацию и предназначена для каталогов проектов в областях агентных систем, RAG и LLMOps. Модель построена на архитектуре T5ForConditionalGeneration, содержит 38,5 млн параметров по метаданным и имеет контекст 512 токенов. Она принимает текст и выдаёт текст, использует библиотеку Transformers и распространяется в формате safetensors. Лицензия — Apache-2.0. Компактный размер делает её подходящей для запуска на CPU и автоматических подсказок тегов для карточек проектов. Теги могут повторяться или быть неполными; модель не предназначена для разметки в критически важных сценариях.
artek0chumak/bloom-560m-safe-peft — PEFT-адаптер, разработанный пользователем Hugging Face Artem Chumachenko для базовой модели bigscience/bloom-560m от исследовательского сообщества BigScience. Карточка модели показывает, что адаптер загружается поверх BLOOM-560M с помощью PEFT и предназначен для использования в задачах генерации текста и других сценариях, где требуется дообученная версия языковой модели. Подробные сведения о данных, целевой задаче и критериях «safe» в карточке адаптера не указаны. Базовая модель представляет собой decoder-only Transformer с 559 214 592 параметрами, 24 слоями, 16 attention heads, скрытым размером 1024 и контекстом до 2048 токенов. Она поддерживает многоязычную генерацию: обучающие данные включают 45 естественных и 12 программных языков. Архитектура использует ALiBi, GeLU и byte-level BPE-токенизатор. Сильные стороны — компактный размер и возможность эффективной адаптации через PEFT; ограничения включают типичные для BLOOM ошибки, повторения, стереотипы и генерацию фактически неверного или потенциально вредного текста. Для адаптера отдельная лицензия в карточке не указана; базовая модель распространяется по bigscience-bloom-rail-1.0.
CallForge-1B v0 — компактная модель примерно на 1,08 млрд параметров, опубликованная под идентификатором solomoniw/CallForge-1B-v0. Она дообучена на базе openbmb/MiniCPM5-1B и предназначена для агентских сценариев с использованием инструментов: выбора подходящего инструмента, формирования аргументов, соответствующих схеме, выполнения вызовов и исправления ошибок выполнения. Модель работает как text-generation-модель через Transformers, использует архитектуру LlamaForCausalLM, нативный chat template MiniCPM5 и XML-разметку вызовов инструментов. Модель ориентирована на локальные приложения с ограниченными ресурсами и структурированный function calling. По приведённым оценкам, она повысила успешность на известных задачах с 20% до 40%, а на инструментах, отсутствовавших в обучении, достигла 43% против 0% у базовой модели. При этом показатели корректности формата и соответствия схеме составляют 92%, поэтому результаты требуют проверки и обработки ошибок. Сведения о поддерживаемых языках и размере контекста в README не указаны. Модель распространяется по лицензии Apache-2.0.
Это пакет слоёв GGUF для квантованной модели DeepSeek-V4-Flash-0731-UD-Q4_K_XL, подготовленный Mesh LLM на основе unsloth/DeepSeek-V4-Flash-0731-GGUF. Он разбивает веса на артефакты по слоям, чтобы запускать модель распределённо на локальном кластере из нескольких машин, в том числе когда полный файл не помещается на одном узле. Модель предназначена для локального приватного чат-инференса и сценариев text-generation. Через Mesh LLM её можно подключать к совместимым с OpenAI запросам chat completions. Репозиторий указывает формат GGUF и вариант UD-Q4_K_XL; сведения об архитектуре, размере, контексте и языках в предоставленных данных отсутствуют. Лицензия — MIT.
Карточка модели g-assismoraes/DeltaP2S-Gemma7B-SameFormula-Code-S13-a025 на Hugging Face совпадает с карточкой g-assismoraes/DeltaP2S-Gemma7B-SameFormula-Code-S13-a05, поэтому описание составлено по ней. DeltaP2S-Gemma7B-SameFormula-Code-S13-a05 — объединённый чекпойнт, созданный экспериментальным пакетом Delta-P2S. В основе лежит google/gemma-7b; модель относится к семейству Gemma, использует плотную архитектуру GemmaForCausalLM и содержит 8,2 млрд параметров. Репозиторий содержит веса в формате safetensors, рассчитанные на работу через Transformers. Модель предназначена для генерации текста. Контекст составляет 8192 токена. В карточке нет сведений о специализированных областях, поддерживаемых языках, качестве на конкретных задачах или дополнительных возможностях, поэтому их нельзя подтвердить. Указанная лицензия отсутствует в предоставленных данных.
Dhee-Pravega v3 — модель для диалогов с вызовом инструментов, разработанная Dhee Yantra на основе дообученной Google Gemma 4 E2B IT. Она предназначена для выбора подходящего инструмента из нескольких вариантов, формирования аргументов вызова и определения, когда инструмент вызывать не нужно. Модель также обучена переключать язык диалога и выполнять перевод по соответствующим запросам. Модель использует плотную архитектуру Gemma 4 и представлена в формате safetensors с весами bf16; адаптер QLoRA был объединён с базовой моделью. Обучение проводилось на 181 191 диалоге на 18 языках. В README приведена оценка на 720 отложенных диалогах: инструмент был выбран правильно в 96,53% случаев, а все аргументы — в 71,11%; эти результаты относятся к описанному набору оценки и не гарантируют аналогичное качество в других сценариях. Для работы инструменты следует передавать структурированно через шаблон чата Gemma 4. Метаданные указывают лицензию «other», поэтому условия использования следует сверить с карточкой модели и базовой модели перед внедрением.
FastContext-4B-RL base Function Calling xLAM Unsloth — дообученная модель на базе microsoft/FastContext-1.0-4B-RL, разработанная автором репозитория с применением LoRA и supervised fine-tuning на наборе Salesforce/xlam-function-calling-60k. Это причинная языковая модель архитектуры Qwen3ForCausalLM с 3,7 млрд параметров, предназначенная для диалоговой генерации текста и вызова инструментов по инструкциям. Метаданные указывают контекстное окно 262 144 токена; модель распространяется в формате safetensors и рассчитана на использование через Transformers. Модель подходит для создания ассистентов, которые выбирают и вызывают функции или инструменты в ответ на запрос пользователя. В карточке приведены только значения обучающей потери; оценка на бенчмарках не проводилась, поэтому качество вызова инструментов не подтверждено независимыми результатами. Модель унаследует ограничения и предубеждения базовой модели, а поведение за пределами единственного обучающего набора не проверено. LoRA-адаптеры слиты с базовыми весами, поэтому отделить их от дообучения нельзя. Лицензия в предоставленных данных не указана.
GeoV-9B — англоязычная авторегрессионная языковая модель на базе Transformer, разработанная Georges Harik. В README указано 9 млрд параметров, 32 слоя и размер скрытого представления 5120; метаданные каталога указывают 13,8 млрд параметров. Модель использует RoPER — позиционные представления, основанные на RoPE и дополненные относительной позиционной информацией в векторных представлениях значений внимания. Модель предназначена для генерации английского текста и алгоритмических задач. Выпущенные веса обучены примерно на 70 млрд токенов, на корпусах c4en и англоязычной Википедии; README приводит результаты оценки на контрольной точке после 80 млрд токенов. Контекст — 2048 токенов. Разработчик — Georges Harik; лицензия BigScience OpenRAIL-M.
mastouri/GLM-5.2-colibri-int4-g64-with-int8-mtp — это контейнерная квантованная версия базовой модели zai-org/GLM-5.2, преобразованная для потокового движка colibri. В основе лежит GLM-5.2 с разреженной MoE-архитектурой и заявленным масштабом 744 млрд параметров. Модель предназначена для генерации текста и запуска локального вывода на GPU с ограниченными ресурсами, включая сценарии со стримингом экспертных весов с NVMe. Экспертные веса представлены в формате grouped int4 с размером группы 64 и отдельными float32-масштабами; embedding и lm_head используют int8, нормализации — float32. Дополнительная MTP-голова для speculative decoding имеет формат int8. Размер контейнера составляет около 429 ГБ и включает 141 shard с весами, а также конфигурацию и токенизатор. README не сообщает поддерживаемые языки, точный размер контекста и набор модальностей; по назначению это текстовая, а не мультимодальная модель. Групповые масштабы призваны уменьшить влияние выбросов и улучшить качество по сравнению с per-row int4; в приведённом сравнении указан результат 87,0% против 83,5% на hellaswag. Int8 MTP-голова обеспечивает заметно более высокую эффективность чернового принятия токенов, чем int4-вариант. Основные ограничения — очень большой объём хранения, зависимость от движка colibri и необходимость версии 1.5.0 или новее для безопасной загрузки. Модель распространяется по лицензии MIT; для запуска требуется совместимый GPU-стек и актуальная исправленная версия colibri.
lyssquant/GLM-5.2-Q2_K-MTP-Q8-layers — пакет слоёв GGUF для распределённого запуска GLM-5.2-Q2_K-MTP-Q8 в локальном кластере Mesh LLM. Репозиторий производен от meshllm/GLM-5.2-Q2_K-MTP-Q8-GGUF и разделяет исходную модель на отдельные артефакты по слоям. Указанный вариант использует Q2_K с MTP-Q8. Пакет предназначен для приватного локального вывода, распределения вычислений и памяти между несколькими машинами, а также обслуживания чата через совместимый с OpenAI локальный API. Для работы требуется Mesh LLM; карточка отсылает к исходной модели за сведениями об архитектуре, шаблоне чата и лицензии, поэтому условия использования здесь не уточняются.
GRPO-Think-7B-4k — плотная языковая модель на архитектуре Qwen2, разработанная командой Aletheia-Bench для проверки и ранжирования решений задач по программированию. Модель дообучена методом GRPO от deepseek-ai/DeepSeek-R1-Distill-Qwen-7B на наборе Aletheia-Train; размер — 7,1 млрд параметров. При обучении использовались промежуточные рассуждения, отрицательные примеры и бюджет генерации до 4 тыс. токенов. На вход модель получает условие задачи и несколько кандидатных программ, а на выходе оценивает и ранжирует решения, помогая выбрать корректное. Её можно применять как функцию вознаграждения при оптимизации моделей генерации кода и как автоматизированного судью в оценочных конвейерах. Карточка описывает задачи соревновательного программирования; обучающие данные включают Python, C++ и Java. Метаданные указывают нативный контекст 131 072 токена. Модель предназначена для проверки кода, а не для самостоятельной генерации решений. Качество за пределами описанного сценария проверки кандидатных программ не установлено в предоставленных материалах. Лицензия CC-BY-NC-SA-4.0 допускает использование с указанием авторства, но ограничивает коммерческое применение и требует соблюдения условий распространения.
Llemma 7B — языковая модель для математических задач, созданная командой авторов, перечисленных в карточке модели. Она основана на весах Code Llama 7B и дообучена на 200 млрд токенов корпуса Proof-Pile-2; архитектура — плотная LlamaForCausalLM с 6,6 млрд параметров. Модель предназначена для математических рассуждений с пошаговым выводом, решения задач и применения вычислительных инструментов, включая Python и системы формальной проверки теорем. В оценках авторов Llemma 7B показала сильные результаты на задачах математических рассуждений и STEM по сравнению с Llama 2 и Code Llama аналогичного размера. Модель принимает текст и генерирует текст; заявленная длина контекста — 4096 токенов. Карточка указывает лицензию Llama 2. Результаты оценок не гарантируют точности в произвольных задачах, а сама модель может ошибаться в вычислениях и рассуждениях.
Lura 1.1 — компактная языковая модель SEN-AGI для генерации текста и диалогового взаимодействия. Она дообучена на базе Qwen/Qwen2.5-0.5B и содержит около 494 млн параметров; модель использует плотную архитектуру Qwen2ForCausalLM и распространяется в формате safetensors. Контекстное окно составляет 32 768 токенов. Модель рассчитана на выполнение инструкций, простые арифметические задачи и логические головоломки, а также генерацию небольших фрагментов кода и объяснений. Разработчик сообщает, что для дообучения использовались 4–5 тысяч отфильтрованных синтетических примеров. Компактный размер позволяет запускать её на CPU и устройствах с ограниченными ресурсами. Качество рассуждений и генерации кода ограничено небольшим размером модели; заявленные улучшения описаны разработчиком как качественные, без приведённых здесь количественных оценок. Карточка указывает поддержку английского языка. Лицензия — Apache-2.0.
EmbeddedLLM/Mistral-7B-Merge-14-v0 — экспериментальная текстовая модель, созданная путём объединения 14 моделей семейства Mistral 7B с помощью метода DARE TIES. Автор описывает результат как базовую модель, которая показывает хорошие результаты, но нуждается в дополнительной тонкой настройке на инструкциях. В метаданных указаны архитектура MistralForCausalLM, 7,1 млрд параметров и контекст до 32 768 токенов. Модель объединяет варианты Mistral, ориентированные на диалог, следование инструкциям, работу с документами, математические задачи и код. Она предназначена для генерации текста и может служить отправной точкой для дальнейшей настройки под конкретные сценарии. Карточка приводит английский язык; отдельные результаты для перечисленных задач не указаны. Модель опубликована под лицензией CC BY-NC 4.0, которая ограничивает коммерческое использование. README также сообщает о проблеме загрязнения данных в некоторых исходных моделях и говорит, что авторы решили пересобрать модель без упомянутых источников; при этом список компонентов в карточке включает их, поэтому точный состав этой версии по README и метаданным не вполне согласован.
Карточка модели ArchSpace-Collection/NCP_ArchPreview_dolma3_8.9B_Stage2_v1 на Hugging Face совпадает с карточкой ArchSpace-Collection/NCP_ArchPreview_dolma3_8.9B_Stage2_v3, поэтому описание составлено по ней. NCP-ArchPreview 8.9B Stage 2 V3 — базовая авторегрессионная языковая модель, разработанная командой NCP в Shanghai AI Lab и LUMIA Lab Шанхайского университета Цзяо Тун. Это продолженное предобучение Stage 1 на Dolma 3 Dolmino в рамках второго этапа учебного курса OLMo-3. Модель объединяет предсказание следующего токена (NTP) и следующего концепта (NCP); архитектура сохраняет 16-слойный энкодер, 8-слойный модуль концептов и 16-слойный декодер. В репозитории указаны около 9 млрд параметров, контекст 8192 токена, формат Safetensors и использование Transformers. Модель предназначена для генерации продолжений текста, оценки языковых моделей, исследований латентных концептов и дальнейшей адаптации. В отчёте приведены результаты по математике, общим знаниям, программированию и рассуждениям, однако точные показатели зависят от варианта Stage 2 и протокола оценки; таблицы рецептов показывают, что V3 уступает V1 на нескольких задачах, включая HumanEval, MBPP и MATH-500. Это базовая модель без диалогового выравнивания: она может выдавать неточные, предвзятые или вредоносные ответы, а возможности за пределами контекста 8192 токена отдельно не подтверждены. Лицензия — Apache 2.0.
NCP-ArchPreview 8.9B Stage 2 V3 — базовая авторегрессионная языковая модель, разработанная командой NCP в Shanghai AI Lab и LUMIA Lab Шанхайского университета Цзяо Тун. Это продолженное предобучение Stage 1 на Dolma 3 Dolmino в рамках второго этапа учебного курса OLMo-3. Модель объединяет предсказание следующего токена (NTP) и следующего концепта (NCP); архитектура сохраняет 16-слойный энкодер, 8-слойный модуль концептов и 16-слойный декодер. В репозитории указаны около 9 млрд параметров, контекст 8192 токена, формат Safetensors и использование Transformers. Модель предназначена для генерации продолжений текста, оценки языковых моделей, исследований латентных концептов и дальнейшей адаптации. В отчёте приведены результаты по математике, общим знаниям, программированию и рассуждениям, однако точные показатели зависят от варианта Stage 2 и протокола оценки; таблицы рецептов показывают, что V3 уступает V1 на нескольких задачах, включая HumanEval, MBPP и MATH-500. Это базовая модель без диалогового выравнивания: она может выдавать неточные, предвзятые или вредоносные ответы, а возможности за пределами контекста 8192 токена отдельно не подтверждены. Лицензия — Apache 2.0.
AceInstruct-1.5B-GGUF — квантизированная версия инструкционной языковой модели AceInstruct-1.5B, разработанной NVIDIA. Репозиторий подготовлен bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста по инструкциям и может применяться в общих диалоговых и прикладных сценариях, а также для задач программирования и математики. Модель содержит 1,5 млрд параметров и работает в текстовой модальности. В README указан английский язык, однако сведения о поддерживаемых языках, архитектуре, размере контекстного окна и дополнительных возможностях отсутствуют. Доступны варианты от F32 и F16 до различных уровней квантования, включая Q8_0, Q6_K, Q5_K, Q4_K и более компактные форматы. Квантизация позволяет запускать модель локально с меньшими требованиями к памяти через LM Studio, llama.cpp и другие совместимые проекты. Сильными сторонами являются небольшой размер, локальный запуск и широкий выбор компромиссов между качеством и потреблением памяти; варианты Q5–Q6 отмечены как высококачественные, а Q4 — как подходящие для большинства сценариев. Более сильное сжатие уменьшает требования к оперативной памяти, но снижает качество генерации. Модель ориентирована прежде всего на англоязычные текстовые задачи, поэтому её возможности в других языках и в сложных задачах не подтверждены представленными данными. Лицензия — CC BY-NC 4.0, допускающая использование с ограничениями, включая некоммерческий характер лицензии.
JohnDoes4321/Qwen2.5-3B-openvino — это конвертированная в формат OpenVINO версия языковой модели Qwen2.5-3B, разработанной командой Qwen. Конвертация выполнена с использованием библиотеки optimum-intel и предназначена для запуска модели через OpenVINO, в частности с классом OVModelForCausalLM. Модель относится к задачам генерации текста и поддерживает английский язык. В README не указаны подробности архитектуры, модальностей и размера контекста; известно только, что базовая модель имеет обозначение 3B, что обычно указывает примерно на три миллиарда параметров. Формат предназначен для сценариев, где требуется применение Qwen2.5-3B в экосистеме OpenVINO и на совместимом оборудовании Intel. Модель наследует возможности базовой Qwen2.5-3B, однако README не содержит самостоятельных данных о её качестве, производительности, сильных сторонах или ограничениях. Указана лицензия qwen-research; её условия следует уточнять по оригинальному тексту лицензии Qwen/Qwen2.5-3B.
mlx-community/Qwen3-0.6B-4bit — это 4-битная версия модели Qwen3-0.6B, преобразованная сообществом mlx-community в формат MLX из исходной модели Qwen/Qwen3-0.6B. Модель предназначена для генерации текста и может использоваться через библиотеку mlx-lm, в том числе в диалоговом режиме при наличии chat template. Объём модели составляет 0,6 млрд параметров; поддерживаемые модальности, языки, архитектурные детали и размер контекста в README не указаны. Ключевое преимущество модели — 4-битное представление и формат MLX, рассчитанные на эффективный запуск в соответствующей экосистеме. Компактный размер делает её подходящей для локальных приложений, прототипирования и задач, где важны сниженные требования к памяти, однако по качеству и возможностям она может уступать более крупным моделям. Ограничения, точные сценарии применения и результаты оценки производительности в README не приведены. Модель распространяется по лицензии Apache 2.0; преобразование выполнено с использованием mlx-lm версии 0.24.0.
Goekdeniz-Guelmez разработал дообученную версию компактной плотной языковой модели Qwen3-0.6B с модификацией весов Gabliteration. Метод использует многомерные проекции для изменения поведения модели, связанного с отказами, и, по заявлению автора, стремится сохранить качество лучше традиционных методов abliteration. Модель предназначена для генерации текста и диалогов; метаданные также отмечают возможности работы с кодом и интерфейсом вызова инструментов. Она содержит 507,9 млн параметров, принимает текст и поддерживает контекст до 40 960 токенов. В карточке перечислены варианты GGUF и i1 GGUF, однако данная репозитория хранит веса в safetensors. Модель основана на Qwen/Qwen3-0.6B и распространяется по лицензии Apache-2.0. Карточка не приводит измерений качества или подробных результатов оценки, поэтому заявленное сохранение качества следует считать описанием метода, а не подтверждённым сравнительным результатом.
Qwen3.5-9B-GGUF (OraQuant) — это текстовая GGUF-квантизация базовой модели Qwen3.5-9B, разработанной Alibaba Cloud, с применением собственной калиброванной технологии OraQuant (OQ) от Ora Computing. Архитектура и размер исходной модели сохранены: около 9 млрд параметров, однако снижена точность весов. Модель предназначена для локального и офлайн-вывода, внутреннего тестирования, сравнительного бенчмаркинга, изучения поведения модели, prompt engineering и создания непроизводственных прототипов. Она совместима со штатным llama.cpp при наличии поддержки Qwen3.5. Доступны варианты OQ-Q4_K_M размером около 5,7 ГБ с более высоким качеством, OQ-Q3_K_M размером около 4,7 ГБ с меньшим и более быстрым профилем, а также OQ-IQ2_XXS размером около 3,2 ГБ — самый компактный вариант со смешанной i-/k-квантизацией. Модель работает только с текстом: хотя исходная Qwen3.5-9B является мультимодальной, визуальные и видеоэнкодеры в этих файлах отсутствуют. Это reasoning-модель, поэтому на сложных запросах, особенно при использовании самого компактного варианта, возможны продолжительные фазы рассуждений и заметное снижение качества. К ограничениям относятся возможные отличия от поведения полной модели, особенно на специализированных, редких и сложных запросах, а также необходимость проверять результаты на предвзятость и непреднамеренные ошибки. Модель предоставляется «как есть» исключительно для оценки и тестирования. Согласно указанным условиям, разрешены только внутреннее тестирование, бенчмаркинг и непроизводственные прототипы для названного лицензиата; запрещены коммерческое и производственное применение, публичное API, перепродажа, распространение, передача третьим лицам, дообучение и обратная инженерия. Для файлов действует Custom Model License Agreement; исходная модель Qwen3.5-9B распространяется Alibaba Cloud по Apache License 2.0.
Qwen3.8-27B-GSQ-RCO-BuffedMod-GGUF — модифицированная GGUF-квантизация базовой модели Qwen3.8-27B, созданная tooltd на основе ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF. Модель предназначена для мультимодальных сценариев с обработкой текста и изображений, однако в README не указаны поддерживаемые языки, размер контекстного окна и подробности архитектуры. Основное изменение заключается в прямой замене отдельных тензоров внутри бинарного GGUF-файла: тензор выходного слоя output.weight повышен с Q4_K до Q6_K, что должно улучшать точность распределения вероятностей токенов при сохранении компактного размера IQ3_S. Доступны варианты с MTP-тензорами в IQ4_XS или Q6_K; их размер составляет около 11,49 и 11,59 ГБ соответственно. По приведённым тестам BuffedMod снижает perplexity и KL-дивергенцию относительно исходной IQ3_S, а совпадение наиболее вероятного токена повышается с 89,66% до 90,54%. Вариант с IQ4_XS MTP предлагает лучший баланс размера и качества. Модель сохраняет преимущества низкобитной квантизации — уменьшенный размер и требования к памяти, но качество зависит от выбранного варианта и ограничений квантизации. README не содержит сведений о производительности на прикладных задачах, системных требованиях или полном наборе поддерживаемых возможностей. Указанная лицензия — Apache-2.0.
Qwen3.8-27B-Ultra-Uncensored-Heretic-Native-MTP-Preserved-GGUF — GGUF-квантизации модели, разработанной независимым автором llmfan46 на основе Qwen/Qwen3.8-27B. Модель создана для текстовой генерации и диалоговых сценариев с существенно сниженным числом отказов и ограничений по сравнению с исходной версией. В README также указан тег image-text-to-text, однако подробности о поддержке изображений не приведены. Это полноразмерная версия с сохранёнными 15 MTP-компонентами. Для снятия ограничений применён Heretic v2.0.0.dev0 с вариантом метода Magnitude-Preserving Orthogonal Ablation (MPOA); целевыми компонентами были отдельные проекции attention и MLP. Заявлены 3 отказа из 100 против 91 из 100 у оригинала и KL-дивергенция 0,0244, что указывает на близость поведения к исходной модели. В README не указаны точные архитектурные параметры, размер контекста, поддерживаемые языки и конкретные варианты квантования. Модель может быть полезна для локального запуска и задач, где требуется более свободная генерация без типичных отказов, при сохранении качества исходной Qwen3.8-27B. Снижение защитных ограничений одновременно означает повышенные риски генерации небезопасного или нежелательного контента; заявленные результаты основаны на тестах автора и не гарантируют качество во всех сценариях. Распространяется по лицензии Apache-2.0.
Qwen3.8-27B-Uncensored-GGUF — это модифицированная версия Qwen3.8-27B, разработанная xCloudinfo (云碩科技) на базе модели Qwen/Qwen3.8-27B. Модель распространяется в формате GGUF и предназначена для генерации текста, рассуждений, исследовательских задач в области кибербезопасности, red teaming, анализа модерации контента и сценариев, где чрезмерные отказы модели снижают практическую полезность. README указывает поддержку китайского и английского языков, а также сохранённую визуальную составляющую через отдельный файл mmproj. Модель основана на смешанной архитектуре с линейным вниманием и компонентами reasoning. Для снижения чрезмерных отказов применена abliteration — ортогонализация направления отказа без дополнительного обучения — с оптимизацией параметров по показателям отказов и KL-дивергенции. Заявлено, что на закрытом наборе из 10 опасных запросов версия Q4_K_M не дала отказов, однако это ограниченный тест и не означает полного удаления защитного поведения. Доступны варианты квантования Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_XS и IQ2_M размером от 10,0 до 28,6 ГБ; также предоставляется визуальный проектор объёмом 0,9 ГБ. Сильными сторонами являются уменьшение избыточных отказов, сохранение заявленных общих способностей и поддержка изображений. Ограничения включают зависимость качества от выбранного уровня квантования, отсутствие гарантии устранения всех отказов и возможные ограничения фактической точности и мировоззренческих установок, унаследованных от базовой модели. Лицензия — Apache-2.0; автор подчёркивает необходимость законного и ответственного использования.
PJRM/Qwen3.8-4B-Distill-heretic-Q4_K_M-GGUF — это квантизированная версия языковой модели valiolla/Qwen3.8-4B-Distill-heretic, преобразованная в формат GGUF с использованием llama.cpp и сервиса GGUF-my-repo. В карточке указано, что модель предназначена для генерации текста и ориентирована на английский язык. Размер модели — около 4 млрд параметров, а Q4_K_M обозначает квантизацию, снижающую требования к памяти и вычислительным ресурсам. Модель рассчитана на локальный запуск через llama.cpp, включая режим командной строки и серверный режим. По тегам она связана с задачами рассуждения, function calling, supervised fine-tuning и distillation, однако README не содержит подробных результатов оценки, описания архитектуры, максимального контекста, поддерживаемых модальностей или гарантированных сценариев применения. В качестве примера запуска указан контекст 2048 токенов, но это не подтверждает максимальный размер контекста модели. К сильным сторонам относятся компактный размер, экономичная 4-битная квантизация и совместимость с llama.cpp, что упрощает локальное развертывание. Ограничения — отсутствие подробной информации о качестве, бенчмарках, точном происхождении и характеристиках исходной модели, а также заявленная поддержка только английского языка. Модель распространяется по лицензии Apache-2.0; условия использования производной исходной модели следует дополнительно проверять в её оригинальной карточке.
Qwen3.8-4B-Function-Calling-xLAM-Unsloth — плотная модель семейства Qwen3.5 с 4,7 млрд параметров, разработанная на основе empero-ai/Qwen3.8-4B и дообученная методом SFT на датасете Salesforce/xlam-function-calling-60k. Она предназначена для диалоговой генерации текста с вызовом инструментов и функций в сценариях, где запрос нужно преобразовать в структурированный вызов подходящего инструмента. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Адаптер LoRA был объединён с базовыми весами, поэтому результат поставляется как единая дообученная модель. Карточка сообщает только значения тренировочной функции потерь; оценка на бенчмарках не проводилась. Поведение вне данных xLAM не проверено, а ограничения и ошибки базовой модели сохраняются.
Qwen3.8-Flash-Next-UD-IQ4_XS-layers — это пакет слоёв в формате GGUF для распределённого запуска модели Qwen3.8-Flash-Next через Mesh LLM. Пакет основан на unsloth/Qwen3.8-Flash-Next-GGUF и подготовлен проектом Mesh LLM; исходная модель относится к семейству Qwen3. В README не указаны точное число параметров, ширина активаций, языки и размер контекста. Вариант предназначен для локального и приватного инференса, включая сценарии, когда полная модель слишком велика для одного компьютера: 48 слоёв можно распределить между несколькими машинами в кластере Mesh LLM. Поддерживаются локальная подача запросов через OpenAI-совместимый API, чат и генерация продолжений. Пакет использует квантизацию Q4_XS, что уменьшает требования к памяти, однако README не содержит данных о качестве, производительности и сравнительных результатах. Лицензия обозначена как other и унаследована от исходного репозитория; конкретные условия необходимо уточнять в карточке unsloth/Qwen3.8-Flash-Next-GGUF. Это специализированный пакет для Mesh LLM, а не самостоятельное описание полной архитектуры модели, поэтому сведения о модальностях, шаблоне чата и рекомендациях по настройке следует проверять в документации исходной модели.
RedSage-Qwen3-8B-DPO-GGUF — квантизированная версия языковой модели RedSage-Qwen3-8B-DPO, основанной на Qwen3 с 8 млрд параметров. Модель подготовлена mradermacher; базовую модель разработала RISys-Lab. Она представлена в формате GGUF и предназначена для локального запуска в приложениях и инструментах, поддерживающих этот формат. Модель ориентирована на генерацию текста, диалоговые сценарии и задачи, связанные с кибербезопасностью. Указан английский язык. Обучение или дообучение связано с набором allenai/llama-3.1-tulu-3-8b-preference-mixture и методом DPO, однако подробные сведения о контекстном окне, точной архитектуре и результатах оценки в README отсутствуют. Доступны варианты квантования от Q2_K до Q8_0, а также f16; их размер составляет примерно от 3,4 до 16,5 ГБ. Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант с очень хорошим качеством, а Q8_0 — как вариант с наилучшим качеством среди указанных. Более сильное квантование уменьшает требования к памяти, но может снижать качество генерации. Лицензия в README не указана.
ShadowYam-7B — автоматическое слияние моделей, созданное Maxime Labonne по конфигурации MergeKit. В состав объединения входят CorticalStack/shadow-clown-7B-slerp и mayacinka/yam-jom-7B; для второй модели указаны плотность 0,53 и вес 0,6. Архитектура — плотная MistralForCausalLM с 7,1 млрд параметров, формат весов — SafeTensors, контекст — до 32 768 токенов. Модель предназначена для генерации текста и запуска через Transformers. В метаданных указана лицензия Apache-2.0. Карточка не приводит конкретных результатов оценки качества или специализированных сценариев применения.
unsloth/SmolLM-135M-bnb-4bit — 4-битная квантованная версия языковой модели SmolLM-135M, разработанной HuggingFaceTB и опубликованной в формате, совместимом с Transformers. Модель относится к компактным текстовым большим языковым моделям; README также связывает её с экосистемой Unsloth и обучением инструкциям на открытых наборах данных, включая Magpie-Pro-300K-Filtered, StarCoder2-Self-OSS-Instruct, OpenHermes-2.5 и набор повседневных диалогов. Указан английский язык. Модель предназначена для локального запуска и ресурсоёмких сценариев с ограниченными вычислительными ресурсами, включая генерацию текста, ответы на стандартные запросы, диалоги и простые задачи программирования. Ключевая характеристика — небольшой размер базовой модели в 135 млн параметров и 4-битное представление весов, что снижает требования к памяти, но может ухудшать качество по сравнению с полноформатной версией. README не содержит точных сведений о длине контекста, поддерживаемых модальностях помимо текста, измерениях производительности или полном составе дообучения именно этого checkpoint. Лицензия модели — Apache-2.0. Из-за малого размера и 4-битной квантования модель, вероятно, уступает более крупным моделям в сложном рассуждении, точности и устойчивости ответов; конкретные ограничения и результаты оценки для данного варианта в README не приведены.