II.2Создание и понимание программного кода

Mungert/Qwen3-4B-GGUF — набор GGUF-квантизованных вариантов базовой модели Qwen3-4B-Base, разработанной командой Qwen. Модель предназначена для генерации текста и локального инференса с использованием совместимого ПО, включая llama.cpp, особенно на системах с ограниченной оперативной памятью или видеопамятью. Размер исходной модели — 4B параметров; точные характеристики архитектуры, поддерживаемые языки и размер контекстного окна в представленном README не указаны. Доступны форматы и варианты квантования с разной точностью, включая низкоразрядные схемы IQ и семейство QK. Чем ниже разрядность, тем меньше требования к памяти, но потенциально ниже точность и качество генерации. README также описывает метод IQ-DynamicGate для распределения точности по слоям, однако приведённые результаты относятся к Llama-3-8B-Instruct и не подтверждают аналогичные показатели для этой модели. Сильная сторона модели — возможность эффективного локального запуска на CPU, edge-устройствах и системах с небольшим объёмом памяти. Ограничения включают возможную потерю качества при агрессивном квантовании, зависимость производительности от аппаратного обеспечения и отсутствие в README точных сведений о конкретных доступных файлах, их параметрах и результатах тестирования именно для Qwen3-4B. Модель распространяется по лицензии Apache 2.0.

Qwen3.5-4B-MTPLX-Optimized-Speed — это оптимизированная сборка модели Qwen/Qwen3.5-4B, подготовленная Youssofal для запуска через MTPLX на компьютерах Apple Silicon. Модель предназначена для генерации текста и ускорения авторегрессионного вывода с помощью speculative decoding и встроенной calibrated native-MTP draft head. Основная модель использует 4-битное квантование с group size 64; размер на диске составляет около 2,47 ГБ, пиковое потребление памяти при загрузке — около 2,9 GiB. README не указывает поддерживаемые языки и размер контекста. Ключевое преимущество — высокая скорость при использовании MTP depth 3: на Mac с M5 Max заявлены 227,8 токена в секунду против 133,6 токена в секунду у базового авторегрессионного режима, то есть ускорение примерно в 1,71 раза. Модель рассчитана на Apple Silicon Mac с unified memory от 8 ГБ и автоматически считывает оптимальную глубину из файла конфигурации MTPLX. Для работы требуется MTPLX 2.2.0 или новее; заявленная скорость относится к конкретному тестовому окружению и может отличаться на других устройствах. Лицензия — Apache 2.0.

Youssofal/Qwen3.6-27B-Abliterated-Heretic-Uncensored-GGUF — GGUF-версия модифицированной модели Qwen3.6-27B, разработанной на базе Qwen/Qwen3.6-27B. Релиз создан Youssofal с применением Heretic-подобного двухэтапного MPOA-процесса, ослабляющего исходное поведение отказа на уровне весов. Модель предназначена для генерации текста и мультимодальных сценариев с анализом изображений и видео, а также для локального запуска через llama.cpp. Это плотная vision-language модель с 27,8 млрд параметров, 64 слоями и гибридной архитектурой внимания: три слоя линейного внимания на один слой полноформатного внимания в каждой группе из четырёх слоёв. Размер скрытого состояния — 5120. Архитектура сохраняет возможности базовой Qwen3.6-27B, включая поддержку изображений и видео; конкретный набор языков и размер контекстного окна в README не указаны. Доступны варианты GGUF от BF16 и Q8_0 до компактного Q2_K, что позволяет выбирать между качеством и требованиями к памяти. К сильным сторонам относятся сохранение общего профиля возможностей базовой модели, мультимодальность, совместимость с llama.cpp и сниженная склонность к стандартным отказам. По приведённым проверкам, однако, модель не демонстрирует полного устранения отказов и дефлекций, а изменение поведения может влиять на безопасность и надёжность ответов. Пользователь несёт ответственность за применение модели. Релиз распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Qwen3.6-35B-A3B-uncensored-heretic-AWQ — текстовая генеративная модель, созданная на основе Qwen3.6-35B-A3B и опубликованная sahilchachra. Это AWQ-квантизированная версия модели llmfan46/Qwen3.6-35B-A3B-uncensored-heretic, представляющая собой uncensored/abliterated-вариант без стандартных направлений отказа. Модель предназначена для генерации текста и диалоговых сценариев; поддерживается английский язык. Мультимодальные возможности исходной архитектуры здесь функционально недоступны, поэтому модель следует рассматривать как текстовую. Архитектура включает гибрид GatedDeltaNet с linear attention и full attention, Mixture-of-Experts с 256 маршрутизируемыми экспертами, 8 активными экспертами и одним общим экспертом, а также 40 слоёв. Веса основных MoE-компонентов и full-attention слоёв сжаты до 4-битного симметричного формата W4A16 с group size 128, тогда как активации сохраняются в BF16. Размер на диске составляет около 21,8 ГБ вместо примерно 70 ГБ для BF16, что снижает требования к хранению и памяти. Квантование выполнено с помощью llm-compressor и compressed-tensors на калибровочных данных ultrachat_200k. Модель удобна для локального или серверного text generation при использовании vLLM и формата compressed-tensors pack-quantized. На системах без специализированных ядер GatedDeltaNet возможен корректный, но более медленный путь на чистом PyTorch. В README не указан размер контекста. Из-за uncensored-характеристик модель может выполнять запросы, которые обычная версия отклонила бы, поэтому её следует использовать ответственно и с учётом применимого законодательства. Указана лицензия Apache-2.0; также необходимо учитывать условия Qwen.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-DFlash2-NInfer — это артефакт для движка NInfer, объединяющий 27-миллиардную текстовую модель Qwen3.8 с community-тюном HauhauCS Uncensored Aggressive и моделью z-lab Qwen3.8-27B-DFlash2 для speculative decoding. Артефакт подготовлен в формате одного файла .ninfer и предназначен для локального инференса на одной GPU через C++/CUDA. В нём также сохранена собственная NextN/MTP-голова исходного тюна. Модель рассчитана на генерацию и обработку текста, а благодаря официальной vision-башне поддерживает сценарии image-text-to-text. Для ускорения вывода доступны режимы DFlash2 и MTP; в README приведены результаты проверки на Blackwell GPU: до 59,8 токена/с в режиме DFlash2 и до 112,1 токена/с в режиме DFlash2 Think, однако эти показатели зависят от оборудования и конфигурации. Артефакт использует groupwise quantization с форматами Q4G64_F16S, Q5G64_F16S, Q6G64_F16S и W8G32_F16S, а размер файла составляет около 20,4 ГБ. Основные ограничения связаны с требованиями к среде выполнения: upstream NInfer ориентирован на одну видеокарту класса RTX 5090 с 32 ГБ памяти и архитектурой Blackwell; для других GPU может потребоваться отдельная версия движка. В README указаны параметры запуска с контекстом 16 384 и 32 768 токенов, но заявленный максимальный контекст самой модели не приведён. Список поддерживаемых языков также не указан. Модель распространяется по лицензии Apache-2.0; при этом в составе используются производные компоненты и базовые модели сторонних авторов, условия которых следует проверять отдельно.

Qwen3.8-Flash-Next-MXFP4-FP8 — экспериментальная квантизованная сборка модели Qwen3.8-Flash-Next, разработанной командой Qwen. Модель распространяется в формате Hugging Face Transformers и предназначена для задач генерации текста, агентских сценариев и мультимодального ввода с изображениями и видео. В README также указана поддержка вызова инструментов и рассуждений через соответствующие парсеры vLLM. Архитектура включает гибридное внимание с Gated DeltaNet и Qwen Sparse Attention, Gated Residual и N-gram Embedding; базовая модель использует Mixture-of-Experts-компоненты. В этой сборке MTP, attention, N-gram и KV-cache представлены в FP8, а experts — в MXFP4. Общий размер весов составляет около 125,8 ГБ. Конфигурация рассчитана на контекст до 524 288 токенов, поддерживает до 20 изображений и одного видео на запрос; языки и точное число параметров в README не указаны. Сильными сторонами являются экономичное хранение и вычисления за счёт квантизации, оптимизации для длинного контекста, FP8 KV-cache, prefix caching, chunked prefill и speculative decoding. Основные ограничения — запуск заявлен только на GPU AMD AI PRO R9700, требуется специализированный dev-образ vLLM и конфигурация с четырьмя GPU; модель имеет экспериментальный статус. Квантизация выполнена методом Quark RTN, поэтому точность может быть ниже, чем у будущих GPTQ/AWQ-сборок. README рекомендует использовать обновлённую GPTQ Protected Model. Лицензия указана как Apache-2.0 с license_name qwen-community-1.0.

Это набор квантизированных моделей Qwen3-1.7B в формате GGUF, созданный на основе исходной модели Qwen/Qwen3-1.7B, разработанной Qwen. Квантизацию выполнил bartowski с использованием llama.cpp версии b5200 и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от полноразмерных весов BF16 до компактных квантов с разрядностью от Q8_0 до Q2_K и экспериментальных форматов IQ. Размер файлов составляет примерно от 0,83 до 4,07 ГБ. Более качественные варианты Q6, Q5 и Q4 рекомендуются для большинства сценариев, тогда как варианты Q3 и Q2 экономят оперативную память, но заметно уступают по качеству. Некоторые форматы оптимизированы для ARM или Apple Silicon и поддерживают онлайн-репакинг. Модель подходит для локальной генерации текста в приложениях, поддерживающих GGUF и llama.cpp; README также указывает специальный шаблон диалога с токенами system, user и assistant. Архитектура, поддерживаемые языки, размер контекста, мультимодальные возможности и лицензия в предоставленных данных не указаны.

RavenX-CyberAgent v6.2 Experimental — MLX — разговорная модель-агент для автоматизированной оценки безопасности, созданная Габриэлем Гарсией и RavenX LLC. По карточке, модель обучена поддерживать идентичность агента кибербезопасности и формировать структурированные результаты проверки, включая выводы с CVE. Для активации такого поведения автор рекомендует специальный системный промпт. Модель основана на huihui-ai/Huihui-Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated и создана слиянием LoRA-адаптера с базовыми весами. В репозитории указаны архитектура семейства Qwen MoE, формат safetensors и размер 69,3 ГБ для полной точности MLX. Модель предназначена для генерации текста и диалогового взаимодействия; в карточке заявлены сценарии анализа безопасности, работы с кодом и рассуждений. Лицензия — Apache-2.0. Версия обозначена как экспериментальная; приведённые в карточке результаты производительности и оценка бенчмарка получены автором и не гарантируют качество на других задачах и конфигурациях.

NovaSky-AI/SWE-Gym-OpenHands-7B-Agent — текстовая генеративная модель от NovaSky-AI на архитектуре Qwen2 с 7,1 млрд параметров и контекстом до 32 768 токенов. Карточка Hugging Face автоматически сгенерирована и не описывает отдельно обучение или целевое применение модели; название репозитория указывает на связь с SWE-Gym и OpenHands, но назначение именно этой версии по карточке надёжно не подтверждено. Модель поддерживает диалоговый интерфейс и интерфейс вызова инструментов. Её можно запускать через Transformers, vLLM и SGLang. Данных о поддерживаемых языках, лицензии, обучающих данных, оценке качества и известных ограничениях в использованных источниках нет.

ToolACE-8B — языковая модель, разработанная командой Team-ACE и дообученная на LLaMA 3.1 8B Instruct с использованием набора данных ToolACE. Она предназначена для диалогов с вызовом инструментов и функций: модель получает запрос пользователя и описания доступных функций, затем формирует ответ с вызовом подходящей функции. В карточке также заявлены сильные результаты на Berkeley Function-Calling Leaderboard (BFCL), сопоставимые с новейшими моделями GPT-4. Модель имеет плотную архитектуру LlamaForCausalLM и 7,5 млрд параметров; указанная длина контекста — 131 072 токена. Поддерживаемый язык в метаданных — английский. Веса доступны в формате safetensors, лицензия — Apache-2.0. Модель подходит для создания чат-агентов, которым нужно выбирать инструменты и передавать им структурированные аргументы; качество вызовов зависит от корректности описаний функций и интеграции со стороны приложения.

Tulu V2.5 DPO 13B StackExchange — англоязычная диалоговая модель-помощник от Allen Institute for AI. Она основана на Tulu 2 и дополнительно обучена методом DPO на 500 тысячах примеров из парного датасета StackExchange; архитектура — плотная Llama с 12,9 млрд параметров, контекст — до 4096 токенов. Модель предназначена для генерации текста в ответ на инструкции и вопросы, в том числе для диалогов и ответов в стиле StackExchange. README рекомендует использовать предусмотренный шаблон чата с завершающим переводом строки. Модель доступна по лицензии Apache 2.0. Возможны небезопасные или проблемные ответы: модель не проходила настройку на безопасные завершения в RLHF и не использует фильтрацию ответов во время работы. Она ориентирована на английский язык.

taidng/wikiser-bert-base — модель BERT для распознавания сущностей в текстах о программном обеспечении. Она дообучена на корпусе WikiSER, включающем 1,7 млн предложений из Википедии, с применением саморегуляризации для устойчивости к ошибочной разметке и различным вариантам именования. Модель выполняет разметку токенов по 12 типам сущностей: алгоритмы, приложения, архитектуры, структуры данных, устройства, названия ошибок, общие понятия, языки программирования, библиотеки, лицензии, операционные системы и протоколы. Она основана на bert-base-cased, содержит 135,5 млн параметров и обрабатывает контекст длиной до 512 токенов. Для запуска используются Transformers, PyTorch и веса Safetensors. Модель предназначена для извлечения и классификации упоминаний программных сущностей в технических текстах. Карточка не описывает её точность и не приводит готового кода или ссылки на статью. Лицензия — Apache-2.0.

Mungert/xLAM-2-32b-fc-r-GGUF — это GGUF-версия языковой модели xLAM-2-32b-fc-r, разработанной Salesforce. Модель относится к Large Action Models и ориентирована на создание AI-агентов, которые преобразуют намерения пользователя в выполняемые действия. Модель предназначена для многоходовых диалогов, function calling, использования инструментов и автоматизации задач в различных прикладных сценариях. Она содержит около 32 миллиардов параметров, работает с текстом и заявлена для английского языка. Указанная длина контекста составляет 32 тысячи токенов, с максимальным значением до 128 тысяч токенов. Модель обучалась на наборах Salesforce/APIGen-MT-5k и Salesforce/xlam-function-calling-60k с использованием данных, созданных в рамках APIGen-MT для имитации взаимодействия агентов и людей. К сильным сторонам относятся специализация на вызове функций, многоходовом взаимодействии, последовательности действий и агентских сценариях; семейство xLAM-2 также заявляет высокие результаты на бенчмарках BFCL и τ-bench. Данная версия представляет собой квантизованный GGUF-файл, созданный с помощью llama.cpp. В README отмечено применение выборочного повышения точности отдельных слоёв при квантизации, что может улучшать точность при заданном размере, но увеличивает размер файла. Модель выпущена для исследовательских целей и распространяется по лицензии CC BY-NC 4.0, допускающей некоммерческое использование с соблюдением условий лицензии.

xLAM-7b-r — языковая модель Large Action Model семейства xLAM, разработанная Salesforce для общего использования инструментов и построения AI-агентов. Она преобразует запросы пользователя в планы и структурированные вызовы инструментов, чтобы автоматизировать многошаговые рабочие процессы. Модель основана на плотной архитектуре MistralForCausalLM и содержит около 7,1 млрд параметров. Она принимает текст и генерирует текст, включая вызовы функций в JSON-подобном формате; поддерживает многошаговый диалог и контекст до 32 768 токенов. В карточке модели указан английский язык, а среди данных обучения — Salesforce/xlam-function-calling-60k. Для получения результатов разработчик рекомендует использовать предоставленный формат промпта и вспомогательные функции. Выпуск обозначен как предназначенный исключительно для исследований. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

Skipti/antares-gguf-community — неофициальная общественная сборка модели Antares-1B от Cisco Systems, Inc. (Foundation AI), ориентированной на поиск файлов с вероятными уязвимостями в репозиториях кода. Модель основана на архитектуре IBM Granite 4.0 1B и использует авторегрессионный декодерный трансформер с 1,6 млрд параметров по метаданным. Она дообучена с помощью SFT и GRPO и предназначена для навигации по кодовой базе через терминальный интерфейс по идентификатору CWE и описанию уязвимости. Сборка содержит веса GGUF F16 и SafeTensors и рассчитана на запуск в llama.cpp и совместимых приложениях, включая LM Studio и Ollama. Метаданные указывают контекст до 131 072 токенов; в примере README используется размер контекста 8192. Основной язык карточки — английский. На бенчмарке VLoc Bench, состоящем из 500 заданий, оригинальная Antares-1B показала File F1 0,209. Результаты конкретной community-сборки отдельно не приведены. Модель выпущена по лицензии Apache-2.0; карточка уточняет, что это неофициальная конверсия, не связанная с Cisco и не одобренная компанией.

Карточка модели AmberYifan/capsd-less-fast-opc-marin-8b-base-code_less_b8000_s0 на Hugging Face совпадает с карточкой AmberYifan/capsd-less-humaneval-opc-marin-8b-base-code_less_b8000_s0, поэтому описание составлено по ней. AmberYifan/capsd-less-humaneval-opc-marin-8b-base-code_less_b8000_s0 — дообученная модель на архитектуре Llama для генерации и продолжения текста. Она основана на marin-community/marin-8b-base и обучена на наборе capsd_marin-8b-base-n80000-opc__mix_code_less_b8000_s0. Модель содержит 7,5 млрд параметров, рассчитана на контекст до 4096 токенов и использует формат Safetensors; для работы применяется библиотека Transformers. Модель предназначена для генерации текста в формате text-generation и поддерживает чатовый сценарий. Карточка не приводит подробностей об обучающих данных, оценке качества или конкретных возможностях модели. Лицензия указана как other, поэтому условия использования следует уточнить в репозитории модели.

Codelica-i1-GGUF — это набор квантованных файлов модели Codelica, созданный на основе neighborwang/ModeliCo-8B и подготовленный пользователем mradermacher в формате GGUF. Модель разработана для генерации текста; по указанным данным, она обучалась с использованием набора данных neighborwang/modelica_libraries и ориентирована на английский язык. В репозитории доступны варианты квантования i1 с размерами примерно от 2,1 до 6,7 ГБ, включая IQ-кванты и варианты Q2–Q6. Разные варианты обеспечивают компромисс между размером, скоростью работы и качеством; README рекомендует i1-Q4_K_M как быстрый вариант, а некоторые более компактные конфигурации характеризует как варианты с пониженным качеством. Конкретные сведения об архитектуре, длине контекста, поддерживаемых модальностях и прикладной специализации исходной ModeliCo-8B не приведены. Модель подходит для локального запуска в совместимых инструментах, поддерживающих формат GGUF, и может использоваться в сценариях генерации текста. Ограничения связаны с потерями качества при низких уровнях квантования и отсутствием подробных результатов оценки. Лицензия указана как Apache-2.0.

DeepSeek-V4.1-Flash-REAP25-MLX-mixed-4_8bit — это модифицированная и квантованная сборка DeepSeek-V4.1-Flash для MLX и компьютеров Apple Silicon, разработанная PipeNetwork на основе модели DeepSeek AI. Она предназначена для текстовой генерации и запуска локального вывода через специальный MLX-порт, поскольку стандартные transformers, mlx-lm и mlx-vlm эту архитектуру не поддерживают. Визионная башня и aligner сохранены, но текущий runtime работает только с текстом. Модель содержит около 754,6 млрд параметров и использует архитектуру mixture-of-experts: 40 слоёв, по 384 маршрутизируемых эксперта в каждом, из которых после REAP-прунинга сохранено 288. Также применяются MLA с совместным использованием KV-cache между слоями, двухслойный hashed n-gram engram объёмом около 196,6 млрд параметров, hyper-connections и attention sinks. Эксперты квантизированы до 4 бит, attention, shared experts и engram — до 8 бит; часть компонентов оставлена без квантизации. Размер файлов составляет около 351,1 ГБ, для запуска требуется примерно 384 ГБ оперативной памяти. Сборка сохраняет связную генерацию и демонстрирует perplexity 2,9777 на тесте wikitext-2; по сравнению с непруненной версией ухудшение perplexity составляет около 2,81%. К ограничениям относятся значительные требования к памяти, зависимость от отдельного MLX-порта, отсутствие мультимодального вывода в текущем runtime и исключение трёх слоёв multi-token prediction. Модель распространяется по лицензии MIT; порт также доступен в отдельном репозитории PipeNetwork.

DeepSeek-V4-Flash-0731 Abliterated (Native FP8) — экспериментальная производная модель, опубликованная apetersson на основе DeepSeek-V4-Flash-0731 от DeepSeek. Это не дообученная и не самостоятельно квантизированная модель: в исходный посттренированный чекпойнт внесена targeted model-surgery правка, направленная на ослабление отказов. Модель предназначена для генерации текста и агентских сценариев, где требуется более свободное следование инструкциям, однако она не заявляется как универсально «без цензуры». Архитектура и формат сообщений унаследованы от исходной модели; в карточке также указана MoE-архитектура и заявлен контекст до одного миллиона токенов. Изменения выполнены методом rank-1 projection редактирования направлений отказа в attention residual writers: обработаны слои 10–42 основной модели и соответствующие проекции трёх DSpark-стадий, всего 36 тензоров. Чекпойнт сохраняет исходное смешанное представление FP8/BF16/F32 с тремя итерациями FP8-реквантизации. Рекомендуемые параметры сэмплирования: temperature 1.0 и top_p 0.95 для агентских сценариев, top_p 1.0 в остальных случаях. Структурная проверка пройдена для 48 шардов и 72 317 индексированных тензоров, а предварительные тесты показали ожидаемое изменение поведения отказов. При этом полный поведенческий тест проводился не на данном FP8-чекпойнте, а на его квантизированной MLX-производной, поэтому результаты нельзя напрямую считать показателями этой версии. Ограничения включают экспериментальный характер переноса метода на новый чекпойнт, возможное влияние abliteration на способности и стиль ответов, а также отсутствие подтверждённых общих capability-бенчмарков и официальной оценки StrongREJECT. Языки модели в карточке не указаны. Модель распространяется по лицензии MIT.

DeepSeek-V4-Flash-0731-Abliterated-NVFP4 — производная модель на базе DeepSeek-V4-Flash-0731 и abliterated-варианта от apetersson, преобразованная в смешанный формат NVFP4. Модель предназначена для генерации текста и развёртывания через Transformers и vLLM. Это не стандартная версия DeepSeek-V4-Flash-0731 и не nvidia/DeepSeek-V4-Flash-NVFP4: в ней изменено поведение отказов с помощью проекции ранга 1, применённой к основной модели и трём стадиям спекулятивного декодера DSpark/MTP. Маршрутизируемые эксперты Mixture-of-Experts представлены в NVFP4 с размером группы 16, а attention, общие эксперты, LM head и DSpark/MTP-декодер сохранены в исходных форматах FP8 или native MXFP4. Декодер DSpark содержит три стадии, блок предложения размера 5 и целевые слои 40–42; 4 705 его параметров сохранены без дополнительного квантования. Размер чекпойнта — около 163,49 GiB в 48 шардах. В README не указаны точное общее число параметров, окно контекста и полный перечень поддерживаемых языков; проверена генерация на японском и английском. Сильные стороны модели — согласованная с основной моделью модификация спекулятивного декодера, потенциальная совместимость с ускоренным декодированием и возможность запуска на конфигурации из восьми RTX PRO 2000 Blackwell с CPU offload. Проверены загрузка и связная генерация фактических ответов, объяснений и художественного текста, однако производительность, коэффициент принятия DSpark, результаты бенчмарков, работа с длинным контекстом и обобщение изменённого поведения отказов не оценивались. Для запуска рекомендуется vLLM версии 0.26 или новее; для восьми GPU требуется около 12 GiB CPU offload, а для полного размещения заявлена конфигурация из двенадцати 16-гигабайтных карт. Лицензия — MIT.

DeltaP2S-Qwen2.5-14B-P2S-Code-S13 — объединённый чекпойнт на базе Qwen2.5, созданный разработчиком g-assismoraes с помощью экспериментального пакета Delta-P2S с поддержкой Qwen. Модель представляет собой плотную авторегрессионную языковую модель семейства Qwen2, содержит 14 млрд параметров и рассчитана на генерацию текста в диалоговом режиме. Указанная длина контекста — 131072 токена. Название указывает на вариант Code, однако README не описывает его обучающие данные, конкретные возможности программирования или результаты оценки, поэтому специализированное качество в задачах кода подтвердить нельзя. Модель опубликована в формате safetensors для Transformers. Лицензия в предоставленных данных не указана.

Это пакет слоёв GGUF модели Devstral-Small-2-24B-Instruct-2512 в варианте UD-Q4_K_XL, подготовленный Mesh LLM для распределённого запуска. Пакет создан на основе unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF и распределяет исходную модель по артефактам слоёв для работы на нескольких машинах. Модель предназначена для локального приватного чата и генерации текста через Mesh LLM, в том числе на кластере, когда модель целиком не помещается на одном компьютере. Mesh LLM предоставляет локальный API, совместимый с OpenAI Chat Completions. Репозиторий содержит вариант квантования GGUF UD-Q4_K_XL; архитектура, число параметров, контекст и лицензия здесь не описаны. Для этих сведений следует обращаться к карточке исходной модели.

DGPL Linux Assistant 0.8B — компактный диалоговый помощник для Linux и DevSecOps, разработанный командой DevSecOps and AI Systems компании Durbhasi Gurukulam Private Limited. Это дообученная модель Qwen3.5-0.8B с плотной архитектурой Qwen3_5ForConditionalGeneration; репозиторий содержит версии GGUF в нескольких вариантах квантизации и веса safetensors. Модель предназначена для генерации команд bash, диагностики Linux без интерактивного взаимодействия и первичного разбора системных журналов. Она также поддерживает анализ снимков экрана терминала и OCR диагностику логов. В карточке заявлена работа на CPU и обычном оборудовании, включая быстрый режим выдачи команд; отдельно описан сценарий использования через Ollama. Лицензия — GPL-3.0. Это небольшая модель, поэтому сложные многоэтапные диагностики и команды, затрагивающие систему, требуют проверки человеком. README не приводит тестовых результатов, подтверждающих скорость или точность заявленных возможностей.

amirMohammadi/Dorna-Llama3-8B-Instruct-Quantized4Bit — 4-битная квантованная версия Dorna-Llama3-8B-Instruct, модели с архитектурой decoder-only на основе Llama 3. Модель разработана для диалоговой генерации текста и специально дообучена на персидских данных. В репозитории указаны 7,5 млрд параметров, контекст до 8192 токенов и поддержка чата; Flash Attention 2 ускоряет инференс. Квантование снижает требования к памяти: автор сообщает о запуске на GPU T4 с менее чем 15 ГБ видеопамяти через Transformers. Модель подходит для вопросов и ответов, генерации кода, математики, перефразирования и суммаризации. Приведённые в README оценки относятся к неквантованной версии Dorna-Llama3-8B-Instruct, поэтому напрямую не подтверждают качество этой квантованной сборки. Лицензия — llama3.

Functionary-small-v3.2-GGUF — это набор GGUF-квантизированных версий языковой модели functionary-small-v3.2, разработанной meetkai и преобразованной в GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и запуска локально через совместимые среды, включая LM Studio. В README также указан специальный формат промптов с ролями system, user и assistant, что позволяет использовать модель в диалоговых сценариях и задачах, требующих структурированного взаимодействия с функциями. Доступны варианты с разными уровнями квантизации: от F32 размером 32,13 ГБ до IQ2_M размером 2,95 ГБ. Наиболее качественными названы Q6_K_L и Q6_K, а Q4_K_M описан как вариант по умолчанию для случаев, где важен баланс размера и качества. Более компактные варианты подходят для систем с ограниченной оперативной памятью, но обеспечивают более низкое качество. Архитектура, число параметров, поддерживаемые языки, модальности и размер контекста в предоставленных данных не указаны. Модель распространяется по лицензии MIT. Ключевое преимущество этой версии — широкий выбор квантизаций для локального запуска с различными требованиями к памяти; ограничениями являются снижение качества у малых вариантов и отсутствие подробных сведений о базовой архитектуре и функциональных возможностях. Для корректной работы следует использовать указанный формат промптов и совместимый рантайм, например llama.cpp или LM Studio.

Модель DiTy/gemma-2-9b-it-russian-function-calling-GGUF — русскоязычная версия Gemma 2 9B Instruct, дообученная командой DiTy для вызова функций по запросам на русском языке. Обучение выполнено на размеченных людьми данных набора DiTy/function-calling. Модель принимает текстовый запрос и описания доступных инструментов, сформированные через chat template, и генерирует текст, включая структурированный вызов подходящей функции. После выполнения функции её результат можно передать модели для продолжения диалога. Это пригодно для ассистентов, которым нужно выбирать и вызывать инструменты в ответ на запрос пользователя. Это плотная авторегрессионная модель Gemma 2 с 9 млрд параметров и контекстом 8192 токена. Доступны веса safetensors и GGUF в формате F16; README указывает размер GGUF-файла 18,5 ГБ. Для корректного формата сообщений и инструментов следует использовать chat template модели. Лицензия — Apache-2.0.

Это пакет слоёв GGUF модели GLM-5.1-UD-Q4_K_XL для распределённого запуска через Mesh LLM. Он создан из unsloth/GLM-5.1-GGUF: исходное распределение весов разбито на отдельные артефакты по слоям, чтобы объединять память и вычислительные ресурсы нескольких локальных машин. Пакет предназначен для локального приватного инференса, чат-запросов и обслуживания API, совместимого с OpenAI Chat Completions. Модель относится к семейству GLM; вариант весов — UD-Q4_K_XL в формате GGUF. README не приводит размер модели, параметры контекста, поддерживаемые языки или подробности архитектуры. Для архитектурных сведений, шаблона чата и условий лицензии карточка отсылает к исходной модели unsloth/GLM-5.1-GGUF. Указанная в README лицензия не приведена, поэтому условия использования следует проверять в карточке источника.

Granite-4.1-8B-Function-Calling-xLAM-Unsloth — дообученная модель семейства Granite от автора репозитория на базе IBM Granite-4.1-8B. Модель с архитектурой GraniteForCausalLM и 8,4 млрд параметров обучена методом SFT на датасете Salesforce/xlam-function-calling-60k для диалоговых сценариев и вызова инструментов. LoRA-адаптер объединён с базовыми весами. Модель предназначена для генерации текста и формирования вызовов инструментов в ответ на запросы пользователя. Контекстное окно составляет 131 072 токена; формат весов — safetensors. Карточка не содержит результатов бенчмарков: опубликованы только наблюдения за обучающей функцией потерь, поэтому качество выполнения задач отдельно не подтверждено. Модель унаследовала предубеждения, ограничения знаний и возможные ошибки базовой модели. Её поведение за пределами одного обучающего датасета не проверено. Лицензия — Apache-2.0.

ICE-GRT — диалоговая языковая модель, разработанная как исследовательский проект на основе Vicuna-13B. Модель дообучена с помощью обучения с подкреплением на основе обратной связи людей (RLHF); в метаданных указана архитектура Llama с 12,9 млрд параметров и контекстом до 4096 токенов. Модель предназначена для генерации ответов на инструкции и многоходового диалога. В карточке приведены примеры генерации рекламных текстов, стихов и кода, преобразования текста в таблицу, ответов по химии и присвоения текстам меток тональности. Для повышения качества авторы рекомендуют использовать формат промпта с инструкцией и разделителями USER/ASSISTANT. Карточка описывает применение в исследованиях и экспериментах с языковыми моделями и чат-ботами. Модель унаследовала лицензию Vicuna-13B; использование строго ограничено некоммерческими, не приносящими дохода и исследовательскими целями. Примеры в карточке не содержат результатов оценки качества, поэтому фактическую точность ответов следует проверять.

Карточка модели AISE-TUDelft/java-usage-classifier на Hugging Face совпадает с карточкой AISE-TUDelft/java-deprecation-classifier, поэтому описание составлено по ней. AISE-TUDelft/java-deprecation-classifier — модель на основе MPNet, опубликованная AISE-TUDelft и распространяемая в формате PyTorch через Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, сравнения сходства и кластеризации текстов. В карточке указано обучение с функцией потерь CosineSimilarityLoss; модель содержит 136,7 млн параметров и поддерживает контекст до 514 токенов. Название указывает на классификацию устаревших Java API, однако README описывает модель как средство построения эмбеддингов, а метаданные относят её к sentence-similarity и feature-extraction. Поэтому её можно применять для поиска и группировки текстов о Java-депрекациях, но карточка не подтверждает выдачу меток классов или специальную точность такой классификации. Лицензия в предоставленных данных отсутствует.