II.2Создание и понимание программного кода

Это дообученная модель Gemma 4 E2B IT, созданная armand0e на базе unsloth/gemma-4-E2B-it с помощью Unsloth и библиотеки TRL. Она предназначена для диалогового взаимодействия и представлена как дистилляция рассуждений Claude Opus; README сообщает об ускоренном обучении, но не описывает обучающие данные или методику дистилляции. Модель относится к семейству Gemma 4, имеет плотную архитектуру условной генерации и опубликована в формате safetensors. Метаданные указывают на интерфейс для чата и вызова инструментов, а также на задачу any-to-any. Лицензия — Apache-2.0. Подробности о размере, контексте и поддерживаемых языках в предоставленных данных отсутствуют.

Tech2wild/GLM-5.3-Int4-Int8Mix — это смешанная квантованная версия GLM-5.3, разработанной zai-org. Модель основана на архитектуре glm5_next и представляет собой MoE-модель общим размером 743 млрд параметров, из которых около 40 млрд активируются для одного запроса. Она предназначена для генерации текста и запуска через Transformers и vLLM в формате compressed-tensors, прежде всего на конфигурации из четырёх NVIDIA DGX Spark с графическими процессорами GB10. Квантование выполнено без калибровочных данных по схеме статического симметричного weight-only mixed precision с размером группы 128. Основная масса MoE-экспертов использует W4A16, а плотные слои и attention — W8A16; маршрутизаторы, компоненты sparse attention, выходная голова и ряд служебных блоков сохранены в полной точности. Исходная модель поддерживает контекст до 1 млн токенов, однако в приведённой конфигурации заявлен запуск с длиной до 131 072 токенов и возможность расширения примерно до 600 000 токенов с Decode Context Parallel. Модель ориентирована на длинноконтекстную генерацию, многопоточную подачу запросов и speculative decoding с совместимым DFlash2-драфтером. Ключевое преимущество — уменьшенный объём весов около 378 ГБ, что позволяет обслуживать модель на четырёх DGX Spark с запасом памяти под KV-кэш; заявлена производительность до 46,03 токена в секунду при шести одновременных потоках. Ограничения включают очень высокие требования к памяти и необходимость tensor parallelism, а для GB10/sm121 — специальных kernel overlays для sparse MLA и FP8 KV. Четырёхбитное квантование даёт заметную численную погрешность, поэтому сохранение критичных компонентов в BF16 важно для качества. Лицензия указана как glm-5.3; подробные условия доступны по ссылке на лицензию базовой модели zai-org/GLM-5.3.

go-bruins-v2.1.1-Mistral-7B-Instruct-v0.1 — объединённая диалоговая модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и rwitz2/go-bruins-v2.1.1 методом SLERP. Веса сохранены в формате safetensors; модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Может применяться в чат-ботах и интерактивных текстовых помощниках. Лицензия Apache-2.0 разрешает использование на её условиях. Данные карточки не описывают отдельные возможности, гарантии качества или ограничения сверх указанных характеристик.

Это GGUF-квантизированная instruction-модель gemma-4-31B-it, разработанная Google и подготовленная в вариантах квантизации bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалоговых и генеративных задач и может запускаться локально через llama.cpp, Ramalama, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. В README также указан pipeline image-text-to-text, однако подробности о поддерживаемых визуальных входах не приведены. Модель содержит 31 млрд параметров; доступны варианты от BF16 до различных уровней 8-, 6-, 5-, 4- и 3-битной квантизации. Размер файлов составляет примерно от 13,84 до 61,41 ГБ. Высокоточные варианты обеспечивают лучшее сохранение качества, а более компактные подходят для систем с ограниченной оперативной памятью, но могут заметно уступать по качеству. Для некоторых форматов заявлена оптимизация под CPU ARM и Apple Silicon. Используется специальный шаблон диалога с ролями system, user и model; для недавно поддерживаемых моделей может потребоваться обновление программного обеспечения. Модель распространяется по лицензии Apache-2.0 с дополнительными условиями Gemma; точные требования следует проверять в документации Google. README не содержит данных о длине контекста, списке языков, конкретных бенчмарках и системных требованиях, поэтому эти характеристики нельзя достоверно оценить.

GPT4All-13b-snoozy — языковая модель Nomic AI для генерации текста в формате чат-бота. Это дообученная версия LLaMA 13B с 12,9 млрд параметров, обученная на корпусе примеров взаимодействий с ассистентом из набора nomic-ai/gpt4all-j-prompt-generations, revision v1.3-groovy. Модель предназначена для диалогов, решения текстовых задач, помощи с кодом и создания стихов, песен и рассказов. Она принимает текст и генерирует текст на английском языке; максимальная длина контекста — 2048 токенов. Для использования указана лицензия GPL.

Granite-4.1-8B-SFT-Claude-Opus-Reasoning-Unsloth — дообученная модель ermiaazarkhalili на базе IBM Granite-4.1-8B. Это плотная авторегрессионная модель класса GraniteForCausalLM с примерно 8,4 млрд параметров по метаданным и контекстом до 131 072 токенов. Модель прошла supervised fine-tuning на наборе distillation-данных с рассуждениями Claude; адаптер LoRA слит с базовыми весами. Поддерживает диалоговую генерацию текста и интерфейс вызова инструментов. Модель предназначена для генерации ответов и диалоговых сценариев, требующих следования инструкциям и пошаговых рассуждений. Она унаследовала многоязычные возможности Granite-4.1-8B, рассчитанной на работу с текстом и кодом. Карточка приводит только значения обучающей потери и не сообщает результатов тестирования на прикладных бенчмарках. Лицензия — Apache-2.0. К ограничениям относятся непроверенное качество вне обучающего набора, а также унаследованные от базовой модели смещения, пределы знаний и типичные ошибки. Поскольку LoRA-адаптер слит с весами, отделить его от результата дообучения нельзя.

Hammer 2.0-7B — языковая модель MadeAgents для вызова функций и создания агентных приложений, в том числе локальных и работающих на устройствах. Это плотная авторегрессионная модель семейства Qwen2 на 7,1 млрд параметров, дообученная на базе Qwen/Qwen2.5-Coder-7B-Instruct с применением техники маскирования функций. Модель обучали на 60 тысячах примеров вызова функций из набора APIGen и на дополнительном наборе xlam-irrelevance-7.5k. Она предназначена для выбора и вызова инструментов в агентных сценариях; в карточке описаны результаты оценки на BFCL-v3 и других академических тестах. Контекст составляет 32 768 токенов. Модель принимает текстовые запросы и выдаёт текст, включая структурированные вызовы функций. Репозиторий содержит веса в формате safetensors и поддерживает Transformers версии 4.37.0 и выше. Лицензия — CC BY 4.0. Карточка не приводит сведений о поддерживаемых естественных языках и конкретных ограничениях качества или безопасного использования.

Hy3-heretic — разговорная модель генерации текста на архитектуре HY-V3 с mixture-of-experts, представленная пользователем trohrbaugh. По метаданным, модель содержит 16,6 млрд параметров и поддерживает контекст до 262 144 токенов; формат весов — safetensors, лицензия — Apache-2.0. Она предназначена для диалогов и генерации ответов с ослабленным отказом: в README приведено сравнение, где вариант Hy3-heretic отказал в 1 из 100 запросов против 99 из 100 у исходной модели. Модель можно применять для общения, ответов на запросы и других сценариев генерации текста. Карточка описывает метод abliteration и сообщает о KL divergence 0,2398 относительно исходной модели. README также содержит общие сведения о Hy3 от команды Tencent Hy, включая заявленные возможности для рассуждений, работы с длинным контекстом, программирования и агентных сценариев; эти характеристики относятся к семейству Hy3 и не подтверждены отдельно для данного варианта. В карточке указана лицензия Apache-2.0.

Menlo/Jan-nano-gguf — это квантизированная версия языковой модели Jan Nano, разработанной в экосистеме Jan авторами Alan Dao и Bach Vu Dinh. Модель дообучена на архитектуре Qwen3 и предназначена для генерации текста, работы с инструментами и function calling, а также исследовательских задач и обработки информации. Формат GGUF ориентирован на эффективный локальный запуск, включая устройства с ограниченными ресурсами и встраиваемые среды. Ключевыми особенностями модели являются компактность, сниженные требования к VRAM, поддержка интеграции с инструментами и увеличенный контекст, однако точный размер модели, объём контекстного окна, поддерживаемые языки и перечень модальностей в предоставленных данных не указаны. Jan Nano является non-thinking model, поэтому её не следует рассматривать как модель с отдельным режимом глубокого рассуждения. Ограничения и результаты сравнительных тестов также не приведены. Модель распространяется по лицензии Apache-2.0.

KIN — Cybersecurity Verification Translator — это дообученная модель для анализа и проверки утверждений в области кибербезопасности, разработанная на базе Qwen/Qwen2.5-3B-Instruct. Модель предназначена для обработки diff-файлов, обсуждений ревью, трассировок агентов и описаний уязвимостей, включая задачи code review, bug bounty, анализа CVE, SOC, DFIR, threat intelligence и incident response. Указан английский язык. KIN формирует пятичастный аналитический бриф: утверждение, потенциальный радиус воздействия, механизм первопричины с привязкой к CWE или нарушенному инварианту, воспроизводимую проверку и критерии опровержения. Ключевая особенность — требование подтверждать серьёзность находки воспроизводимой проверкой, например PoC, падающим тестом, AST-проверкой или командой выполнения. Модель ориентирована на конкретные продукты, реальные CVE и контекст инцидентов, а также на прямые рекомендации по дальнейшим действиям. Архитектура основана на Qwen2.5-3B-Instruct; использованы LoRA SFT и DPO Alignment, LoRA rank 8, alpha 16, целевые модули q_proj, k_proj, v_proj и o_proj. Для локального запуска доступна квантованная версия Q4_K_M в формате GGUF размером около 1,93 ГБ, совместимая с Ollama и llama.cpp. Ограничения включают размер класса 3B, необходимость проверять критические выводы сканером или воспроизводимым тестом, использование пятичастного брифа только как вспомогательного инструмента, а также необходимость предварительно фильтровать большие кодовые базы. Лицензия — Apache-2.0.

Llama-3-11.5B — плотная авторегрессионная языковая модель семейства Llama, опубликованная beratcmn. Она собрана методом passthrough с помощью LazyMergekit из двух диапазонов слоёв одной и той же Meta-Llama-3-8B; в метаданных указано около 11 млрд параметров. Модель предназначена для генерации текста, а карточка также указывает обученную на её основе версию beratcmn/Llama-3-11.5B-v0.1. Модель принимает текст и выдаёт текст. Указанная длина контекста — 8192 токена. Базовая Meta-Llama-3-8B описана как модель для английского текста и кода, но отдельные языковые возможности производной модели в карточке не уточняются. Файлы модели представлены в формате safetensors. Для использования применяются условия лицензии базовой Meta-Llama-3-8B; сведения о лицензии в предоставленных данных отсутствуют.

Empower Functions Model v1.1 — большая языковая модель семейства Empower Functions от empower.dev, предназначенная для диалогов с вызовом инструментов и функций. Это плотная авторегрессионная модель архитектуры Llama с 69,5 млрд параметров, дообученная на базе meta-llama/Meta-Llama-3.1-70B-Instruct. Она поддерживает контекст до 131 072 токенов и совместима с Transformers в формате safetensors. Модель может сама выбирать между ответом пользователю и вызовом инструмента, выполнять параллельные и последовательные вызовы функций, работать в потоковом режиме и вести длинные диалоги. В README заявлены высокие результаты на Berkeley Function Calling Leaderboard; это утверждение разработчика для оценки, зафиксированной 10 сентября 2024 года. Для запуска версии large разработчик указывает конфигурацию из четырёх GPU A100 с 80 ГБ памяти в режиме fp16. Модель распространяется по лицензии Apache-2.0. README не сообщает конкретные языки обучения или поддержки, поэтому языковую область здесь нельзя уточнить.

Poro 2 8B Base — базовая языковая модель, созданная совместно AMD Silo AI, группой TurkuNLP Университета Турку и High Performance Language Technologies (HPLT). Это плотный авторегрессионный трансформер семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров по метаданным. Модель получена продолжением предобучения Llama 3.1 8B на сбалансированном наборе из 165 млрд токенов на финском и английском языках, а также с данными по коду и математике. Контекст — 8192 токена. Модель предназначена для генерации текста и служит основой для дальнейшей настройки под прикладные сценарии; карточка прямо отмечает, что для большинства применений базовую модель нужно дообучить. По результатам карточки, она заметно улучшает показатели Llama 3.1 8B на финских тестах и сохраняет близкий уровень на английских; также демонстрирует улучшение в переводе между английским и финским. Поддерживаются веса PyTorch и safetensors. Лицензия — Llama 3.1 Community License. Среди ограничений — слабая компетентность в языках, кроме финского и английского, возможные фактические ошибки и предвзятые или неподходящие ответы.

Модель gpjt/Meta-Llama-3-8B-openassistant-guanaco-llama2-format — дообученная автором gpjt версия Meta-Llama-3-8B на наборе gpjt/openassistant-guanaco-llama2-format. Датасет основан на OpenAssistant Guanaco и адаптирован под предполагаемый формат запросов Llama 2. Модель построена на архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и работает с контекстом до 8192 токенов. Модель предназначена для генерации текста в диалоговом формате и ответов на пользовательские запросы. Базовая модель рассчитана на английский текст и код; карточка не уточняет языковой охват самой дообученной версии. Веса опубликованы в формате safetensors и доступны по лицензии Llama 3.

unsloth/mistral-7b-instruct-v0.3-bnb-4bit — 4-битная квантованная версия Mistral-7B-Instruct-v0.3, опубликованная в экосистеме Unsloth и предназначенная для использования через Transformers. Модель ориентирована на выполнение инструкций и диалоговые сценарии, включая conversational-формат ShareGPT, а также на генерацию и продолжение текста. Модель основана на Mistral-7B-Instruct-v0.3 и содержит около 7 миллиардов параметров; суффикс bnb-4bit указывает на 4-битное представление с использованием BitsAndBytes. В карточке указана поддержка английского языка и библиотеки Transformers. Снижение точности представления уменьшает требования к памяти и может облегчать локальный запуск и дообучение, однако README не содержит точных требований к оборудованию, значения контекстного окна, результатов тестирования или сведений о других модальностях. Модель подходит для чат-ботов, ассистентов, генерации текста и экспериментов с дообучением. Возможные ограничения связаны с английской языковой специализацией и компромиссом между экономией памяти и качеством, характерным для квантованных моделей. Лицензия — Apache-2.0.

Occiglot-7B-ES-EN-Instruct — инструктивная языковая модель, разработанная Occiglot Research Collective. Это плотный причинный трансформер-декодер архитектуры Mistral с 7,1 млрд параметров, дообученный на 160 млн токенов многоязычных и программных инструкций. Модель предназначена для диалогов и генерации текста на английском и испанском языках; также обучалась на инструкциях по программированию. Поддерживает шаблон чата ChatML. В карточке указана длина контекста 32 768 токенов, а при обучении использовалась длина 8 192 токена. Модель представляет собой первый выпуск исследовательского проекта Occiglot. Авторы отмечают предварительный характер оценок, а испанские результаты частично опираются на машинно переведённые наборы данных и английские запросы. Модель не проходила выравнивание по безопасности и может выдавать проблемные ответы. Распространяется по лицензии Apache 2.0.

OLMoE-1B-7B-0924-Instruct — англоязычная языковая модель Allen Institute for AI (AI2), выпущенная в сентябре 2024 года. Это разреженная архитектура Mixture of Experts (MoE): в карточке указаны 1 млрд активных и 7 млрд общих параметров, а метаданные репозитория — 472,1 млн параметров. Модель дообучена с помощью SFT и DPO на базе allenai/OLMoE-1B-7B-0924-SFT; доступна в формате safetensors для Transformers и рассчитана на контекст до 4096 токенов. Модель предназначена для диалоговой генерации текста и выполнения инструкций на английском языке. По заявлению разработчиков, она показывает результаты, сопоставимые с более крупными моделями при меньших вычислительных затратах. Лицензия Apache 2.0 допускает широкое использование; README описывает также экспериментальные варианты обучения, но для этой модели указана основная preference-tuned версия.

VMware Open LLaMA 0.3T 7B Open Instruct v1.1 — разговорная языковая модель на архитектуре LLaMA с 6,6 млрд параметров. Она дообучена на частично обученном чекпойнте Open-LLaMA, на котором было проведено обучение на 300 млрд токенов, с использованием набора Open-instruct-v1.1, включающего OASST, Dolly и HH-RLHF. Модель предназначена для диалогов и генерации текста по инструкциям; в README указана версия с шаблоном запросов Alpaca. Поддерживаемый контекст — 2048 токенов, основной язык карточки — английский. Модель подходит для ответов на вопросы, выполнения текстовых инструкций и генерации кода. В README отмечены трудности с few-shot prompting и непоследовательное форматирование кода: Python-код может выводиться без отступов, а код — не всегда оформляться в Markdown. README рекомендует использовать финальную версию Open LLaMA 7B Open Instruct. Репозиторий распространяется под лицензией CC; конкретный вариант лицензии в предоставленных данных не уточнён.

Orchestrator-8B GGUF — модель оркестрации инструментов и экспертных моделей, разработанная NVIDIA и University of Hong Kong. Эта версия распространяется пользователем Mungert в формате GGUF и создана с использованием llama.cpp. В основе лежит 8-миллиардная decoder-only Transformer-модель Qwen3-8B, обученная на GeneralThought-430K и ToolScale. Заявленный язык модели — английский; поддерживается генерация текста. Модель предназначена для сложных многошаговых и многоходовых агентских задач, в которых требуется координировать неоднородные инструменты, включая поиск, выполнение кода, а также специализированные и универсальные LLM. При обучении применялось многоцелевое обучение с подкреплением GRPO, оптимизирующее точность, задержку, стоимость и соответствие пользовательским предпочтениям. Разработчики заявляют об обобщении на ранее не встречавшиеся инструменты и конфигурации ценообразования. Согласно README, на Humanity’s Last Exam модель получила 37,1% и демонстрировала более высокую эффективность по сравнению с рядом крупных монолитных моделей, включая GPT-5, Claude Opus 4.1 и Qwen3-235B-A22B; также приводятся результаты на FRAMES и τ²-Bench. Конкретный размер контекста и характеристики модальностей не указаны. GGUF-файл подвергнут квантованию с выборочным повышением точности отдельных слоёв, что может улучшать качество при ограниченной разрядности ценой увеличения размера файла. Модель предназначена только для исследований и разработок и распространяется по лицензии Apache 2.0.

Phi-4-reasoning-plus-w4a16-llmcompressor — это квантизованная версия языковой модели Phi-4-reasoning-plus, разработанной Microsoft. Модель предназначена для генерации текста и работы с текстовыми запросами, включая задачи рассуждения; исходная архитектура представлена как Phi3ForCausalLM. Модель поддерживает английский язык. Чекпойнт подготовлен компанией AMD для инференса на процессорах AMD EPYC под Linux. Используется 4-битная квантизация весов без квантизации активаций (W4A16): веса представлены в формате INT4, симметрично и группами по 128 параметров, а активации сохраняются в BF16. Для запуска рекомендован стек vLLM 0.26.0, LLM Compressor 0.12.0, ZenDNN 6.1.0, ZenTorch 2.11.0.3 и PyTorch 2.11.0. Ключевое преимущество модели — существенное сокращение размера весов при сохранении качества: на тесте GSM8K она показала 0,8688 против 0,8704 у исходной BF16-модели, то есть восстановила 99,82% результата базовой версии. Ограничения включают ориентацию на CPU AMD EPYC, зависимость от совместимых версий программного стека и возможную потерю точности из-за агрессивной 4-битной квантизации. В README указана лицензия MIT; также отмечено, что модель распространяется на условиях лицензии исходной модели.

Qwen2-1.5B-Instruct-GGUF — инструкционная языковая модель из семейства Qwen2, разработанного командой Qwen. Она предназначена для диалоговых приложений, генерации и понимания текста, а также может применяться в задачах, связанных с многоязычностью, программированием, математикой и рассуждениями. Модель представлена в формате GGUF и подходит для локального запуска с помощью llama.cpp, включая развёртывание сервера с совместимым с OpenAI API интерфейсом. Модель содержит 1,5 млрд параметров и построена на архитектуре Transformer с активацией SwiGLU, смещениями в QKV-проекциях внимания и Group Query Attention. Токенизатор адаптирован к нескольким естественным языкам и языкам программирования. В репозитории доступны варианты fp16 и квантованные варианты q2_k, q3_k_m, q4_0, q4_k_m, q5_0, q5_k_m, q6_k и q8_0. Обучение включало предварительное обучение, supervised fine-tuning и direct preference optimization. К сильным сторонам относятся небольшой размер, возможность локального запуска и наличие нескольких уровней квантования с различным компромиссом между качеством и требованиями к ресурсам. Ограничения связаны с размером 1,5 млрд параметров: по сравнению с более крупными моделями она может уступать в сложных задачах понимания, генерации, кодирования и рассуждений; конкретные языки и размер контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.

mlx-community/Qwen3-30B-A3B-4bit — это 4-битная версия модели Qwen3-30B-A3B, преобразованная в формат MLX из базовой модели Qwen/Qwen3-30B-A3B с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и запуска в среде MLX, в том числе через библиотеку mlx-lm на совместимом оборудовании Apple Silicon. Ключевые характеристики включают формат MLX, 4-битное квантование и назначение text-generation. README не содержит сведений о точной архитектуре, количестве активных и общих параметров, поддерживаемых языках, размере контекста, модальностях, результатах тестирования, сильных сторонах и ограничениях качества. Модель распространяется по лицензии Apache 2.0.

Qwen3.8-27B-GPTQ-Int4-sym-G128-MTP-BF16 — квантизированный производный вариант модели Qwen/Qwen3.8-27B, опубликованный пользователем mikeinnyc. Это не дообученная модель: дополнительное обучение не проводилось, а GPTQ-квантизация выполнена непосредственно из исходного чекпойнта BF16. Модель предназначена для генерации текста и развёртывания через Transformers и vLLM, включая сценарии с OpenAI-совместимым API и Open WebUI. Она ориентирована на запуск на Intel Arc Pro B70 с использованием vLLM XPU, speculative decoding и unquantized MTP draft path. В контролируемом тестировании на одной Intel Arc Pro B70 32 GB конфигурация G128 поддерживала контекст до 161 000 токенов с FP8 KV-кэшем. Ключевые характеристики: GPTQ INT4 с симметричной квантизацией и group size 128, без квантизации LM head и MTP-тензоров; размер загрузки составляет около 19,6 ГБ, модель хранится в пяти файлах safetensors. Сильными сторонами являются уменьшенный объём памяти по сравнению с BF16, поддержка очень длинного контекста и возможность ускорения генерации с помощью MTP. Ограничения включают зависимость от совместимой конфигурации vLLM XPU и специальных патчей для проверенного сценария на Intel Arc Pro B70; заявленные характеристики производительности относятся именно к этому окружению. Модель распространяется по лицензии Apache-2.0.

Frozenlock/Qwen3.8-27B-int4-AutoRound — это мультимодальная квантованная версия базовой модели Qwen/Qwen3.8-27B, подготовленная пользователем или организацией Frozenlock. Модель распространяется по лицензии Apache-2.0 и предназначена для запуска и обслуживания через vLLM, включая сценарии генерации текста, работы с изображениями и инструментами. Модель использует квантование INT4 по схеме W4A16 с размером группы 128 и симметричным представлением, выполненное с помощью AutoRound 0.14.2 и упаковки auto_gptq. Квантованы основные языковые блоки и слои MTP, тогда как 96 тензоров GDN-линейного внимания in_proj_a и in_proj_b, а также vision tower и эмбеддинги сохранены в bf16. Размер весов составляет около 18 ГБ. Поддерживаются мультимодальные входные данные, вызов инструментов и спекулятивное декодирование MTP; заявленный нативный контекст — 262 144 токена, а базовая модель поддерживает расширение YaRN до 1 миллиона токенов. Ключевое преимущество сборки — совместимость квантованной MTP-головы со спекулятивным декодированием в vLLM, что в измерениях README почти удваивало скорость декодирования, хотя коэффициент принятия черновых токенов зависит от типа текста и составлял примерно 41–67%. Компактные веса также позволяют оставить больше памяти под KV-кэш, однако для эффективной работы требуются совместимые версии vLLM и Marlin W4A16, а мультимодальность, поддерживаемые языки и точные показатели качества отдельно не описаны. Производительность зависит от GPU, настроек KV-кэша, длины контекста и режима tensor parallelism.

Qwen3.8-27B-Uncensored-GGUF — набор GGUF-квантизаций модели Qwen3.8-27B, опубликованный пользователем trklzz на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста и локального запуска через совместимые среды, включая llama.cpp; доступны варианты с MTP для speculative decoding, отдельными draft-моделями, а также vision-проектором для обработки изображений в совместимых runtime. Модель использует архитектуру Qwen3_5ForConditionalGeneration с 64 слоями, словарём из 248 320 токенов, одним MTP-слоем и контекстом до 262 144 токенов. Заявлена поддержка английского и китайского языков; vision-компонент позволяет работать с изображениями. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0 объёмом примерно от 10,6 до 29 ГБ, что позволяет выбирать баланс между требованиями к памяти и качеством. Вариант модифицирован методом abliteration: поведение, связанное с отказами, существенно уменьшено, но не устранено полностью. При этом дополнительное обучение и новые данные не использовались, а заявленные возможности, обучающие данные и архитектура базовой модели сохранены. Сильными сторонами являются длинный контекст, поддержка изображений, несколько уровней квантизации и возможность ускорения генерации посредством speculative decoding. Ограничения включают требования к значительным объёмам памяти, зависимость vision-функций от совместимого runtime и возможное небольшое снижение эффективности принятия draft-токенов. Распространение указано по лицензии Apache-2.0.

Карточка модели Lazarus-Ai/ReAligned-Qwen3.5-4B на Hugging Face совпадает с карточкой Lazarus-Ai/ReAligned-Qwen3.5-27B, поэтому описание составлено по ней. ReAligned-Qwen3.5-27B — диалоговая модель семейства Qwen3.5, созданная Эриком Хартфордом из LazarusAI на базе Qwen/Qwen3.5-27B. Модель дообучена в два этапа: supervised fine-tuning и GRPO с оценкой ReAligned-Classifier; обучение использует LoRA. Цель — уменьшить отказы и государственно-ориентированную подачу ответов на политические и исторические темы, связанные с Китаем, сохранив общие возможности базовой модели. Модель предназначена для чата, суммаризации, программирования, рассуждений, многоязычного использования, а также исследования идеологической предвзятости, отказов и рамки повествования. Архитектура — плотная Qwen3.5 с классом Qwen3_5ForConditionalGeneration; метаданные указывают мультимодальную основу с поддержкой текста и изображений. Карточка не сообщает размер параметров и длину контекста именно этого чекпойнта. Лицензия — Apache-2.0. Снижение цензурных отказов не гарантирует точность фактов; возможны чрезмерная коррекция в сторону западной институциональной рамки, пробелы в знаниях и различия поведения между языками и формулировками. Авторы рекомендуют независимую оценку и собственные меры модерации при развёртывании.

YModel2-s0 — компактная плотная языковая модель, разработанная SnifferCaptain для диалогов и генерации текста. Она предназначена для ответов на вопросы, рассуждений, решения математических задач, написания кода и обычных знаний; в примерах также показаны суммаризация и создание связного текста. Модель поддерживает китайский и английский языки, имеет контекст 4096 токенов и содержит 99,3 млн параметров. В архитектуре используются PEGA2 и блоки FFN с GeGLU; автор сообщает о примерно трёхкратном ускорении относительно PEGA. Модель прошла предобучение и дообучение на наборах данных для кода, математики и диалогов. Приведённые результаты CEval и CMMLU обозначены автором как ориентировочные; примеры демонстрируют отдельные фактические ошибки и сбои в коде, поэтому ответы требуют проверки. Лицензия — MIT.

BLOOM-7b1-intermediate — промежуточный чекпойнт языковой модели семейства BLOOM, разработанной BigScience. Это авторегрессионная трансформерная модель с архитектурой decoder-only, предназначенная для генерации текста и исследований больших языковых моделей; её также можно дообучать для специализированных задач. Репозиторий содержит промежуточные версии обучения, включая шаги от 1 000 до 300 000. Модель работает с текстом и поддерживает множество языков. Для семейства BLOOM указаны позиционные кодировки ALiBi и контекст до 2 048 токенов; версия в этом репозитории имеет 7,1 млрд параметров. Метаданные также отмечают возможности работы с кодом. Чекпойнт можно применять для продолжения текста, черновой генерации и экспериментов с многоязычными языковыми моделями. Выводы могут быть фактически неверными, повторяющимися или нерелевантными, а также содержать стереотипы, оскорбительный, насильственный или сексуальный контент. Модель не предназначена для критически важных решений и использования в медицине, политике, праве или финансах. Лицензия — BigScience BLOOM RAIL License v1.0; применяются ограничения использования, изложенные в лицензии.

Ameya-Kawade/cmdcaliper — дообученная модель Sentence Transformers на базе thenlper/gte-base, созданная для анализа Linux-команд и фрагментов Bash. Архитектура BERT использует mean pooling и L2-нормализацию, формируя плотные эмбеддинги размерностью 768; в метаданных указаны 136,7 млн параметров и контекст до 512 токенов. Модель предназначена для поиска семантически близких команд, группировки по намерению, выявления функциональных дубликатов и поиска сходства с известными вредоносными или безопасными командами. Обучение проводилось с Multiple Negatives Ranking Loss на размеченных парах Linux-команд из разных категорий, включая файловые операции, процессы, сеть, управление пакетами, мониторинг и команды, связанные с безопасностью. В README приведены результаты retrieval-оценки на 500 отложенных парах: MRR@10 около 0,8847, Top@10 около 0,9526 и точность 3-NN 88,41%. Модель оптимизирована для команд shell и Bash, а не для обычных предложений или других языков программирования. Указанная лицензия — MIT.

Это GGUF-квантизированная версия языковой модели DeepSeek-V3-0324, разработанной deepseek-ai. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. В репозитории доступны варианты квантования Q2, Q3, Q4, Q5, Q6, Q8 и IQ, включая версии Q4_K_M-V2 и другие модификации. Размер файлов варьируется примерно от 247 до 713 ГБ, поэтому запуск требует значительных ресурсов. Более высокие уровни квантования обеспечивают лучшее сохранение качества, а более низкие уменьшают требования к памяти ценой качества. README не содержит сведений о точной архитектуре, числе параметров, поддерживаемых языках, мультимодальности или размере контекста. Модель подходит для локального текстового inference и может использоваться в приложениях, поддерживающих формат GGUF и экосистему llama.cpp. Рекомендуемый шаблон промпта приведён в README. Распространение указано по лицензии MIT.