II.2Создание и понимание программного кода

fallentree/Qwen3.8-27B-Uncensored-GP100-GGUF — это мультимодальная GGUF-сборка модели Qwen3.8-27B с модификацией Uncensored (abliteration). В основе указаны Qwen/Qwen3.8-27B, JonathanColetti/Qwen3.8-27B-Uncensored, mradermacher/Qwen3.8-27B-Uncensored-i1-GGUF и incoai/Qwen3.8-27B-DFlash2. Сборка предназначена для запуска через llama.cpp и оптимизирована разработчиком fallentree для двух видеокарт Tesla P100 с архитектурой Pascal sm_60. Основной файл использует квантизацию Q4_1_G64 примерно на 4,5 бит на вес и занимает около 15 ГиБ; выходная голова хранится в Q8_0, эмбеддинги — в Q4_1, используется calibration imatrix. В комплект входят отдельная DFlash-модель для speculative decoding и vision projector в формате F16, поэтому сборка поддерживает обработку текста и изображений. Заявлены английский и китайский языки, а также контекст до 128K токенов. Для максимальной производительности требуется специальная ветка llama.cpp-gp100 с поддержкой sm_60, LoopSpec и связанных оптимизаций; стандартный llama.cpp не загружает тип Q4_1_G64, но может использовать поставляемый вариант Q4_1. Главное преимущество — оптимизация скорости декодирования и работы с длинными сессиями на Tesla P100: в приведённых тестах G64 быстрее Q4_1 примерно на 10% в обычном режиме и на 4,8% в сценарии с контекстом 128K и компактированием. Ограничения включают зависимость от специализированного программного стека и оборудования sm_60, несовместимость с P40 и видеокартами GTX 10-й серии, а также небольшое ухудшение perplexity и более слабые результаты на коротких запросах по сравнению с Q4_1. Лицензия — Apache-2.0.

Qwen3.8-4B-Empero-AI-FullStack-GGUF — это набор GGUF-квантизаций языковой модели Qwen3.8-4B-Empero-AI-FullStack, разработанной iBotIA и опубликованной в формате GGUF пользователем tinyopsec. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio, Ollama или llama-cpp-python. Доступны варианты с точностью от 2 до 16 бит и размером примерно от 1,3 до 8,7 ГБ. Рекомендуемым вариантом по умолчанию указан Q4_K_M, обеспечивающий баланс между качеством и требованиями к памяти; варианты с более высокой точностью требуют больше VRAM, а варианты с сильнее сжатой квантизацией подходят для устройств с ограниченными ресурсами. В README указана поддержка английского языка и текстовая модальность. Архитектура исходной модели, размер контекста и дополнительные модальности не описаны. Основные преимущества набора — широкий выбор уровней квантизации, возможность локального запуска и совместимость с популярными инструментами для GGUF. Ограничения связаны с неизбежной потерей качества при использовании низкобитных вариантов, а также с отсутствием подробных сведений о качестве, обучении и возможностях исходной модели. В метаданных репозитория указана лицензия Apache 2.0; README также отсылает к лицензии оригинальной модели, которую следует проверить отдельно.

Это пакет слоёв GGUF-модели Qwen3-Next-80B-A3B-Thinking-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого инференса. Пакет основан на unsloth/Qwen3-Next-80B-A3B-Thinking-GGUF и сохраняет её веса, разбитые на артефакты по слоям для запуска на кластере из нескольких локальных машин. Указанный вариант квантования — UD-Q4_K_XL. Модель предназначена для локального приватного чата и генерации текста, в том числе через совместимый с OpenAI интерфейс Mesh LLM. Распределение слоёв позволяет объединять память и вычисления нескольких машин, когда полной модели не помещается на одном узле. Пакет требует Mesh LLM; описание архитектуры, языков, контекста и лицензии отсылает к карточке исходной модели и не приводит эти сведения для данного пакета.

RavenX-CyberAgent v6.2 Experimental — GGUF — экспериментальная языковая модель для автономной оценки безопасности, разработанная Gabriel Garcia и RavenX LLC. Она предназначена для сценариев пентестинга, анализа кибербезопасности и работы в качестве агентной системы с поддержкой tool-calling. Модель обучена следовать протоколу RATH, включающему анализ поверхности атаки, выявление уязвимостей, оценку воздействия, рекомендации по исправлению, документирование находок и профилактическое усиление защиты. Модель основана на huihui-ai/Huihui-Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated и использует архитектуру MoE с заявленным размером 35B; поставляется в формате GGUF с квантизацией Q4_K_M, размер файла около 20,2 ГБ. Указана поддержка английского языка, генерации текста, агентных сценариев и структурированных отчётов с CVE и оценками CVSS. Заявлены скорость генерации 88–90 токенов в секунду на Apple M4 Max 128GB и общая оценка 80,9% в бенчмарке с Gemini 2.5 Flash Judge. Сильные стороны модели — специализация на задачах кибербезопасности, генерации кода, рассуждении и формализованных отчётах, а также интеграция с Ollama, llama.cpp и LM Studio. При этом модель имеет экспериментальный статус, а результаты бенчмарков и заявленная эффективность зависят от оборудования, настроек и качества системного промпта. Мультимодальность и размер контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.

Trama v1 — созданная автором Trina-QwQ дообученная версия Qwen3-4B-Instruct-2507, распространяемая в формате GGUF и предназначенная для локального запуска через Ollama или LM Studio. Модель рассчитана на диалоговые вопросы и ответы, ролевое общение, базовые рассуждения по математике и естественным наукам, литературное письмо, программирование и многоязычные запросы. Это одноязычная текстовая модель. Автор указывает на высокую степень снятия ограничений, сохранение обычных моральных принципов, следование ролевым инструкциям и базовые знания в математике, физике и химии. В карточке отмечен один файл GGUF с квантованием Q4, для которого рекомендована видеокарта уровня GTX 980 или лучше. Базовая модель поддерживает контекст до 262 144 токенов; README не уточняет, сохранена ли эта длина в Trama. Модель выпущена по лицензии MIT. Автор не публикует полный конвейер обучения и подробный состав обучающих данных; заявленные возможности описаны качественно, без результатов сопоставимых тестов.

arsis-dev/ukisai-Swift-Qwen3.8-27b-MTPLX — это квантованная runtime-конверсия модели ukisai/Swift-Qwen3.8-27b, разработанной UkisAI, для быстрого локального запуска на компьютерах Apple Silicon. Конверсия выполнена с помощью MTPLX Forge 2.11.2 и не является новой дообученной моделью. Модель предназначена для генерации текста и мультимодальных сценариев с обработкой изображений: зрительные веса исходного чекпойнта сохранены. Она работает через MTPLX/MLX, использует 4-битное affine-квантование тела модели с размером группы 64, а native MTP head оставлен в формате BF16 для self-speculative decoding с глубиной до D3. Размер опубликованного артефакта составляет около 16,9 ГБ. README не указывает точное окно контекста и полный список поддерживаемых языков. На Apple M5 Max с 128 ГБ unified memory измеренная скорость декодирования достигла 65,2 токена/с в режиме MTP D3 против 29,4 токена/с для авторегрессионного режима, что соответствует ускорению 2,22 раза. Эти результаты относятся к пропускной способности декодирования данной конверсии и могут отличаться в зависимости от длины контекста, параметров генерации, оборудования, температуры и нагрузки. Мультимодальное качество и скорость обработки изображений отдельно не оценивались; оптимальная глубина MTP может различаться на других Mac. Конверсия распространяется по условиям Swift Open License v1.0 и наследует лицензионные требования исходной модели. Перед использованием, распространением или загрузкой необходимо ознакомиться с разделом License and access исходного чекпойнта.

Wiki-SmartBotLM-Instruct — компактная авторегрессионная языковая модель с архитектурой decoder-only Transformer, разработанная как независимый исследовательский проект и обученная с нуля. Она содержит около 276 млн параметров и использует RoPE, RMSNorm, SwiGLU, Grouped Query Attention и причинное внимание; заявленная длина контекста — 8192 токена. Модель сначала обучали предсказывать следующий токен на англоязычной Википедии, затем дообучили на наборе инструкций Alpaca. Модель предназначена для диалоговых прототипов, ответов на вопросы, объяснения технических тем, помощи с программированием, суммаризации и генерации учебных текстов. Карточка приводит результаты на MMLU, ARC Challenge, HellaSwag, Winogrande и BoolQ; опубликованные значения для BoolQ, ARC Challenge и HellaSwag ниже приведённого сравнения с Gemma 3 270M IT. Модель может галлюцинировать, уступает более крупным моделям в рассуждениях, ограничена знаниями обучающего корпуса и может хуже работать в длинных диалогах. Лицензия — MIT.

Bonsai-4B-gguf — компактная языковая модель, разработанная Prism ML и представленная в формате GGUF для запуска через llama.cpp. Она предназначена для локальной генерации текста, чат-ассистентов и интеграции в приложения на устройствах с ограниченными ресурсами, включая компьютеры, смартфоны и планшеты. Модель основана на плотной архитектуре Qwen3-4B с 4 млрд параметров, из которых около 3,6 млрд не относятся к эмбеддингам. Она использует 36 блоков Transformer-декодера, GQA с 32 query- и 8 KV-головами, SwiGLU, RoPE и RMSNorm. Контекст составляет 32 768 токенов, размер словаря — 151 936 токенов. Все основные веса, включая эмбеддинги, проекции внимания, MLP и LM head, сжаты до 1-битного формата GGUF Q1_0 с группами по 128 весов и общими FP16-масштабами; эффективная разрядность — 1,125 бита на вес. Ключевые преимущества модели — размер около 0,57 ГБ, существенное снижение требований к памяти и поддержка CUDA, Metal, CPU, iOS и Android. По данным разработчика, она в 14,1 раза компактнее версии FP16 и может работать практически на любом устройстве с GPU. Однобитное квантование уменьшает потребление ресурсов, но может ограничивать качество по сравнению с полноформатными версиями; конкретные языки и результаты бенчмарков в README не указаны. Распространяется по лицензии Apache 2.0.

Это англоязычная модель Sentence Transformer, разработанная автором репозитория и дообученная на базе microsoft/codebert-base для получения векторных представлений текста и кода. Архитектура основана на RoBERTa; модель содержит 151,8 млн параметров и выдаёт плотные эмбеддинги размерностью 768, которые можно сравнивать по косинусному сходству. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текста, особенно в сценариях, связанных с кодом и CrewAI. В README приведены результаты поиска на наборе из 900 обучающих примеров; опубликованные значения метрик низкие, поэтому качество следует проверять на собственных данных. Модель принимает текст и возвращает векторы. Распространяется по лицензии Apache-2.0.

Code-Daemon NER v1 — модель распознавания именованных сущностей в англо- и русскоязычной прозе о разработке ПО. Она выделяет компоненты систем, API и инструменты, пути к файлам, метрики и другие сущности, чтобы связывать документацию, обсуждения и сообщения коммитов с кодом. Это не парсер исходников: модель предназначена для поиска сущностей в текстовых описаниях. Модель основана на XLM-RoBERTa и дообучена для классификации токенов; метаданные указывают 124,3 млн параметров, а README описывает вариант с примерно 117 млн параметров. Контекст — до 128 токенов по настройке обучения; README рекомендует подавать одно-два предложения за вызов. Доступны веса Safetensors и форматы ONNX и Core ML. По оценке авторов на размеченных людьми данных, модель превосходит сравнивавшиеся zero-shot-модели для выбранных инженерных меток, но точность ограничена: авторы рекомендуют использовать её для генерации кандидатов с последующей фильтрацией, а не для автоматической разметки без проверки. Для оптимальных результатов требуется предварительно разбивать идентификаторы camelCase и snake_case. Лицензия — MIT.

CyberSentinel 2.0 — диалоговая модель для генерации текста, разработанная Huynh Dac Tan Dat (dad1909) на основе Meta-Llama-3-8B-Instruct. Модель дообучена на данных dad1909/DSV о кодах программных уязвимостей и инструкционных наборах; автор также описывает версию с 4-битной квантизацией bitsandbytes. Метаданные указывают архитектуру LlamaForCausalLM, размер 7,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для диалоговых ответов и работы с запросами о программных уязвимостях и безопасности кода. В метаданных указаны английский и вьетнамский языки; поддерживается генерация текста. Репозиторий содержит веса в формате safetensors. Указанная в метаданных лицензия — Apache-2.0, однако README называет лицензию RMIT, поэтому условия распространения и использования требуют проверки.

bartowski/DeepSeek-R1-Distill-Qwen-1.5B-GGUF — набор GGUF-квантизованных версий модели DeepSeek-R1-Distill-Qwen-1.5B, подготовленный bartowski. Квантизация выполнена с использованием llama.cpp версии b4514 и метода imatrix. Модель относится к классу text-generation и предназначена для локальной генерации текста, включая запуск через llama.cpp и LM Studio. Доступны варианты от исходных F32 и F16 до квантизаций Q8_0, Q6, Q5, Q4, Q3, Q2 и IQ4/IQ3 объёмом примерно от 0,88 до 7,11 ГБ. Более точные варианты обеспечивают лучшее качество, а варианты с меньшим размером подходят для систем с ограниченным объёмом оперативной памяти; в README рекомендованы несколько конфигураций Q6, Q5 и Q4. Формат GGUF облегчает локальный запуск, однако README не содержит сведений об архитектуре базовой модели, поддерживаемых языках, длине контекста, мультимодальности или точных требованиях к оборудованию. Для корректного взаимодействия указан специальный формат prompt с системным сообщением, пользовательским запросом и ответом ассистента. Ограничения включают неизбежное снижение качества при агрессивной квантизации и отсутствие в представленном README информации о лицензии и условиях коммерческого использования.

mlx-community/DeepSeek-V3-0324-4bit — это квантизированная 4-битная версия языковой модели DeepSeek-V3-0324, разработанная сообществом mlx-community и преобразованная в формат MLX из модели deepseek-ai/DeepSeek-v3-0324-4bit с помощью mlx-lm версии 0.26.3. Модель предназначена для генерации текста и запуска через библиотеку MLX, в том числе с использованием чат-шаблона токенизатора. Она может применяться для диалоговых сценариев и других задач текстовой генерации, однако README не содержит подробностей о поддерживаемых языках, размере модели, архитектуре, длине контекста или мультимодальных возможностях. Ключевая характеристика модели — 4-битное квантование, которое потенциально снижает требования к памяти по сравнению с полноразмерной версией, но README не приводит измерений производительности или качества. Ограничения и точные сценарии применения следует оценивать отдельно, поскольку сведения о сильных сторонах, бенчмарках и аппаратных требованиях отсутствуют. Модель распространяется по лицензии MIT.

Модель yaneivan/dolphin-2.9.4-llama3.1-8b-Q4_K_M-GGUF представляет собой конвертированную в формат GGUF версию cognitivecomputations/dolphin-2.9.4-llama3.1-8b. Конвертацию выполнили с помощью llama.cpp через сервис GGUF-my-repo; исходная модель основана на Llama 3.1 с размером 8 миллиардов параметров. Модель предназначена для локального запуска и использования через llama.cpp, включая работу в командной строке и развёртывание сервера для генерации текста. В README не указаны поддерживаемые языки, модальности, архитектурные особенности исходной модели, назначение обучения, максимальный контекст или результаты оценки. Для примеров запуска используется контекст длиной 2048 токенов, однако это не подтверждает максимальное значение контекстного окна. Ключевое свойство данной версии — квантизация Q4_K_M, снижающая требования к памяти и вычислительным ресурсам по сравнению с полноразмерными вариантами, но потенциально ухудшающая точность генерации. Модель совместима с llama.cpp и рассчитана на локальное выполнение; конкретные показатели качества и аппаратные требования в карточке не приведены. Указана лицензия llama3.1.

Functionary-7b-v2.1 — языковая модель MeetKai для диалогов с вызовом функций и плагинов. Она построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров; базовый контекст составляет 32 768 токенов. Модель принимает определения функций в формате JSON Schema и может решать, когда вызвать функцию, выполнять вызовы последовательно или параллельно, а также учитывать результаты инструментов при подготовке ответа. Модель предназначена для чат-ассистентов, которым нужно взаимодействовать с API и другими инструментами, включая сценарии, где нужен ответ на основе полученных от них данных. Она также может отвечать обычным сообщением, когда вызов инструмента не требуется. Для работы с ней автор рекомендует OpenAI-совместимый сервер vLLM и специальный шаблон диалога v2PromptTemplate. Карточка приводит результаты оценки точности вызова функций на внутреннем наборе данных для других версий Functionary, но не сообщает отдельную оценку для v2.1. Модель распространяется в формате safetensors; лицензия в предоставленных данных не указана.

FuseO1-DeepSeekR1-QwQ-32B-Preview-GGUF — это набор квантизированных версий языковой модели FuseO1-DeepSeekR1-QwQ-32B-Preview, разработанной FuseAI и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель содержит 32 млрд параметров; README не указывает её точную архитектуру, поддерживаемые языки, модальности и размер контекстного окна. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Более высокие уровни сохраняют лучшее качество, но требуют больше памяти, тогда как Q3 и некоторые IQ-варианты рассчитаны на системы с ограниченным объёмом RAM. Квантизация выполнена с использованием imatrix и специального датасета; для запуска требуется корректный шаблон prompt. Сильная сторона модели — широкий выбор вариантов с различным компромиссом между качеством, размером и требованиями к памяти, а также поддержка локального инференса. Ограничения включают отсутствие в README данных о фактических результатах тестирования, языках, контексте и возможностях мультимодальности; качество также зависит от выбранного уровня квантизации. Лицензия в предоставленных материалах не указана.

PocketWeights/Gemma-4-12B-agentic-abliterated-GGUF — это квантизированная в формате GGUF версия 12-миллиардной модели на архитектуре Gemma, разработанной Google. К использованной базовой модели Huihui-gemma-4-12B-agentic-fable5-abliterated применены дообучение и методы удаления отказов от huihui-ai / yuxinlu1; сборку и оптимизацию GGUF выполняет PocketWeights. Модель предназначена для генерации текста, диалогов, многошагового планирования, декомпозиции сложных запросов, структурированного вывода, агентских сценариев и использования инструментов или function calling. Заявлены возможности технического анализа, автономного выполнения многошаговых целей, red-teaming и творческого письма. Поддерживаемые модальности и языки в README не указаны; контекстное окно также не заявлено. Доступны варианты IQ3_M размером 5,73 ГБ, рассчитанный примерно на 6 ГБ VRAM или 8 ГБ RAM, и Q4_K_M размером 7,38 ГБ, рекомендованный для 8–12 ГБ VRAM или 16 ГБ RAM. Ключевое преимущество — сочетание 12B-параметров с локальным запуском на потребительском оборудовании. Ограничение — удалённые защитные механизмы, поэтому модель может генерировать небезопасный контент и рекомендуется для авторизованных исследований безопасности, симуляций red-teaming и локальных изолированных сред. Модель распространяется по Gemma Terms of Use / Open Model License; конкретные условия применения следует проверять в тексте лицензии.

AMD Gemma 4 12B IT W4A16 — квантизированная версия модели RedHatAI/gemma-4-12B-it, созданная AMD с использованием LLM Compressor и формата compressed-tensors. Модель предназначена для генерации текста и CPU-инференса на процессорах AMD EPYC под Linux; запуск рекомендуется через vLLM. Указанный язык — английский. Модель основана на архитектуре Gemma4UnifiedForConditionalGeneration и содержит мультимодальные компоненты, включая vision tower, обработчики изображений и аудио, а также мультимодальный проектор, однако в карточке явно заявлены текстовые входы и выходы. Основные веса сжаты методом 4-битной weight-only-квантизации W4A16 с использованием GPTQ: веса представлены в INT4, симметрично и группами по 128 параметров, а активации остаются в BF16. Мультимодальные модули и lm_head сохранены в BF16. Размер модели — 12B параметров; точное максимальное окно контекста не указано, при квантизации использовалась длина последовательности до 2048 токенов. Ключевое преимущество модели — снижение требований к памяти и оптимизация инференса на AMD CPU с использованием ZenDNN и ZenTorch. По тесту GSM8K модель сохранила 98,38% результата BF16-базовой версии: 0,9249 против 0,9401. Ограничения связаны с потерей качества из-за квантизации, зависимостью от совместимого стека версий и ориентированностью на AMD EPYC; заявленные результаты не охватывают широкий набор задач и языков. Для работы рекомендуются PyTorch 2.11.0, ZenTorch 2.11.0.3, vLLM 0.26.0 и LLM Compressor 0.12.0. Лицензия — Gemma.

DavidAU разработал эту мультимодальную дообученную версию Gemma 4 E4B Instruct с настройкой на наборе данных The Deckard. Модель предназначена для диалога, рассуждений, программирования и творческого письма, включая создание и продолжение историй, сцен и ролевых сценариев. В README заявлены обработка текста, изображений, видео и аудио, контекст до 128 тыс. токенов, а также режимы instruct и thinking; по описанию Gemma 4 E4B имеет около 8 млрд параметров, из которых активируются примерно 4,5 млрд. Режим thinking задан шаблоном по умолчанию, а отдельный шаблон позволяет использовать instruct без него. Автор характеризует настройку как uncensored и более интенсивную; качество частично оценивается внутренними тестами, но их результаты не приведены. Модель распространяется по лицензии Apache-2.0.

GLM-4.7-Flash-UD-Q4_K_XL-layers — пакет слоёв GGUF, подготовленный Mesh LLM для распределённого запуска модели GLM-4.7-Flash на локальном кластере. Пакет получен из unsloth/GLM-4.7-Flash-GGUF: веса разделены на артефакты по слоям для распределения вычислений и памяти между несколькими машинами. Модель предназначена для локального приватного чат-инференса, в том числе на нескольких компьютерах, если полный файл GGUF не помещается на одном узле. Mesh LLM позволяет обслуживать запросы через локальный API, совместимый с OpenAI Chat Completions. В метаданных указаны GGUF и возможность chat; задача — генерация текста. Архитектурные подробности, размер контекста и перечень языков следует сверять с карточкой исходной модели. Квантизация варианта обозначена как UD-Q4_K_XL. Пакет ориентирован на запуск через Mesh LLM и сам по себе не описывает качество ответов или аппаратные требования. Условия лицензии наследуются от исходной модели unsloth/GLM-4.7-Flash-GGUF; в доступных данных они не приведены.

Gryphe_Codex-24B-Small-3.2-GGUF — это квантизированная GGUF-версия модели Codex-24B-Small-3.2, разработанной Gryphe и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалоговых сценариев и задач, где требуется instruct- или chat-модель; заявлены также сценарии roleplay и дальнейшей донастройки. Поддерживаемый язык — английский. Модель имеет размер 24 млрд параметров и поставляется в вариантах от BF16 до различных квантизаций Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, требованиями к памяти и скоростью инференса. Файлы предназначены для запуска через llama.cpp, LM Studio и другие совместимые проекты. Для общения предлагается формат ChatML, однако в README отмечено, что шаблон чата явно не задан и используемый шаблон по умолчанию может быть неточным. Сведения о контекстном окне, точной архитектуре, дополнительных модальностях и результатах бенчмарков отсутствуют. Сильной стороной модели является широкий выбор квантизаций: варианты Q6 и Q5 описаны как обеспечивающие очень высокое или высокое качество, а Q4 — как компромисс для большинства сценариев; более компактные варианты подходят системам с ограниченным объёмом оперативной памяти, но могут заметно уступать по качеству. Модель распространяется по лицензии Apache-2.0. Условия использования, связанные с исходной моделью Gryphe/Codex-24B-Small-3.2, следует дополнительно проверять в её оригинальной карточке.

Holo-3.1-35B-A3B-MTP-GGUF — это набор GGUF-квантизаций модели Hcompany/Holo-3.1-35B-A3B, подготовленный пользователем gbuzhf для запуска через llama.cpp. Модель предназначена для мультимодальных задач image-text-to-text, компьютерного управления и GUI-агентов, включая анализ скриншотов, описание элементов интерфейса, рассуждения по accessibility tree, выдачу координат, многошаговые действия и обработку ответов инструментов. Поддерживается английский язык. В поставку включены восстановленная голова multi-token prediction (MTP) для speculative decoding, vision projector для обработки изображений и importance matrix, откалиброванная на агентских и кодовых сценариях. Архитектура относится к классу MoE; в названии указано 35B-A3B. Доступны варианты IQ4_XS, Q3_K_M, Q4_K_M, Q5_K_S и Q6_K с размером файлов примерно от 14,27 до 30,01 ГБ, а также исходный BF16-вариант. Заявленная измеренная доля принятых черновых токенов MTP составляет 85% при скорости 204 токена в секунду на смешанном наборе запросов, однако это не результат отдельного GUI-бенчмарка. Сильные стороны модели — сочетание мультимодальности, возможностей компьютерного управления, speculative decoding и нескольких уровней квантизации. Для подачи изображений обязательно требуется отдельный файл vision projector; без него модель работает только с текстом. Более компактные варианты экономят память, но могут уступать старшим по качеству. Контекстное окно и точные требования к оперативной или видеопамяти в README не указаны. Артефакты распространяются по лицензии Apache-2.0.

DevQuasar-7/huihui-ai.DeepSeek-R1-Distill-Qwen-14B-abliterated-v2-GGUF — это квантованная версия модели huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2, подготовленная в формате GGUF командой или проектом DevQuasar. Модель предназначена для генерации текста и может использоваться в сценариях локального запуска и инференса с совместимыми инструментами, поддерживающими GGUF. Из карточки следует, что её базовая модель относится к семейству DeepSeek-R1-Distill-Qwen и имеет размер 14B параметров; точный тип квантования не указан. Ключевая заявленная модальность — текстовая генерация. Сведения о поддерживаемых языках, размере контекстного окна, конкретной архитектуре, требованиях к оборудованию и результатах оценки отсутствуют. К потенциальным ограничениям относятся зависимость качества и скорости от выбранного варианта квантования и программного окружения, а также отсутствие в карточке описания сильных сторон, бенчмарков и рекомендаций по применению. Лицензия и условия использования в README не указаны.

FineEnvs выпустила полноразмерное дообучение LiquidAI/LFM2.5-2.6B для агентных задач анализа данных с OpenCode. Это плотная авторегрессионная модель семейства LFM2 с 2,6 млрд параметров, принимающая текст и выдающая текст; заявленная длина контекста — 131 072 токена. Модель обучали с асинхронным GRPO, поощряя правильность ответов и эффективность использования инструментов. Репозиторий содержит полные веса, токенизатор и шаблон чата, а не LoRA-адаптер. Модель предназначена для выполнения задач анализа данных агентом с инструментами в среде OpenCode. На 250 тестовых заданиях SmolDataEnvs итоговый чекпойнт показал 52,3% pass@1 в четырёх оценочных средах; результат зависит от среды и версии агентского инструментария. Для воспроизведения оценок нужны соответствующие инструменты и среда выполнения; обычный чатовый запрос не эквивалентен этой оценке. Карточка указывает английский язык, библиотеку Transformers и лицензию other, условия которой следует проверять в репозитории.

Ling-3.0-flash REAP288 — экспериментальная версия разговорной гибридной MoE-модели Ling-3.0-flash, опубликованная bloomer010 на основе inclusionAI/Ling-3.0-flash. В ней оставлено 288 из 512 маршрутизируемых экспертов на слой; README указывает 73 млрд параметров всего и 5,1 млрд активных, тогда как метаданные каталога указывают 3,5 млрд параметров. Модель предназначена для генерации текста в диалоговом формате; базовая Ling-3.0-flash также позиционируется для программирования и многошаговых агентных задач. Эксперты отбирались методом REAP по оценке, учитывающей значение маршрутизатора и норму выхода на калибровочных данных объёмом 1 млн токенов. После удаления экспертов не проводились дообучение или восстановительное обучение. Модель работает с контекстом до 262 144 токенов, распространяется в BF16 Safetensors и использует архитектуру BailingMoeV3; для загрузки требуется trust_remote_code=True и пользовательский код bailing_hybrid. README называет модель исследовательским артефактом и экспериментальной REAP-версией. Лицензия в предоставленных данных не указана. Ключевое ограничение — эксперты удалены без последующего обучения для восстановления качества, поэтому характеристики базовой модели нельзя автоматически переносить на эту версию; приведённые в README и метаданных размеры параметров также расходятся.

Groq Llama-3-Groq-8B-Tool-Use — языковая модель, разработанная Groq на основе Meta Llama 3 8B и дообученная полным fine-tuning и Direct Preference Optimization (DPO) для вызова инструментов и функций. Это плотный авторегрессионный трансформер с 7,5 млрд параметров; он принимает и генерирует текст, поддерживает диалог и рассчитан прежде всего на английский язык. Длина контекста — 8192 токена. Модель предназначена для сценариев, где языковая модель выбирает инструменты и формирует структурированные вызовы: взаимодействия с API, манипуляции структурированными данными и многошаговое использование инструментов. В README приведён результат 89,06% на Berkeley Function Calling Leaderboard; это заявленный разработчиком показатель. Для общих вопросов и открытой генерации автор рекомендует выбирать универсальную модель. Качество может зависеть от настроек sampling, а ответы могут быть неточными или предвзятыми. Модель распространяется по лицензии Meta Llama 3 Community License; перед использованием необходимо учитывать её условия и ограничения.

Llama-3-Groq-8B-Tool-Use-4bit — англоязычная текстовая генеративная модель семейства Llama 3, разработанная Groq и преобразованная сообществом mlx-community в формат MLX. Модель содержит около 7,5 млрд параметров, использует 4-битное представление и предназначена для запуска через mlx-lm на совместимом оборудовании Apple.

Llama-3-Groq-8B-Tool-Use-GGUF — это набор квантованных файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе модели Llama-3-Groq-8B-Tool-Use, разработанной Groq. Модель предназначена для генерации текста и сценариев, связанных с использованием инструментов, а формат GGUF ориентирован на локальный запуск и эффективное использование ресурсов. Модель имеет 8 миллиардов параметров и доступна в вариантах квантования от 2 до 8 бит, что позволяет выбирать баланс между качеством, размером файлов и требованиями к памяти. GGUF поддерживается llama.cpp и рядом совместимых приложений и библиотек, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp и GPT4All. README не указывает поддерживаемые языки, размер контекста, дополнительные модальности или точные характеристики архитектуры. К сильным сторонам относятся широкий выбор уровней квантования, возможность локального запуска и поддержка сценариев tool use. Ограничения зависят от выбранного уровня квантования и используемой среды инференса; конкретные показатели качества и требования к оборудованию не приведены. Лицензия в представленном README не указана.

LLaMa-3-Instruct-Zeroed-13B — разговорная языковая модель на архитектуре Llama, собранная с помощью mergekit из слоёв Undi95/Meta-Llama-3-8B-Instruct-hf. В конфигурации passthrough merge для части слоёв обнулены параметры проекций o_proj и down_proj; репозиторий содержит веса Safetensors. Модель рассчитана на генерацию текста и диалоговое взаимодействие; карточка указывает 12,5 млрд параметров и контекст до 8192 токенов. Базовая модель — англоязычная инструкционная Llama 3 на 8 млрд параметров. Из-за изменённых проекций поведение и качество могут отличаться от исходной модели; опубликованные сведения не описывают оценку качества или дополнительные ограничения. Лицензия в доступных данных не указана.

Lura-1.0 — компактная языковая модель от SEN-AGI, дообученная на базе Qwen2.5-0.5B на отобранных инструкционных примерах. Она предназначена для генерации текста, базовых математических рассуждений, создания простого кода и повседневных задач ассистента. Модель содержит 494 млн параметров, использует плотную архитектуру Qwen2ForCausalLM и принимает текст, выдавая текст; заявленная длина контекста — 32 768 токенов. Карточка позиционирует её как локальную модель с низкой задержкой для обычного оборудования и устройств с ограниченной памятью. Лицензия — Apache-2.0. Оценки прироста качества приведены разработчиком без описания бенчмарков.