I.14Автоматизация процессов и AI-агенты

Qwen3.6-35B-A3B Winnow keep-75 — это разреженная версия Qwen3.6-35B-A3B, подготовленная автором репозитория hbfreed с помощью поканального прореживания экспертов Winnow. В каждом эксперте SwiGLU удалено 25% каналов по оценке их важности; механизмы внимания, эмбеддинги и маршрутизатор не изменены. README указывает 26,6 млрд параметров, тогда как метаданные каталога — 2,9 млрд; эти оценки расходятся, поэтому размер здесь не приводится. Модель предназначена для генерации текста и диалогов. В README приведён результат perplexity 13,39 на C4 для данного непрошедшего дополнительное восстановление чекпойнта; сравнения с другими вариантами и показатели на downstream-задачах вынесены в отдельный материал. Указана длина контекста 262 144 токена. Для загрузки требуется Transformers версии 5 или новее и trust_remote_code=True; README также описывает запуск через vLLM с плагином winnow. Лицензия — Apache-2.0. Языки отдельно не перечислены.

mlasli/Qwen3.8-27B-Heretic-Abliterated-MLX-6bit — текстовая языковая модель, созданная mlasli на основе Qwen/Qwen3.8-27B. Это версия v2.1.0 с изменённым поведением отказов и ответов, преобразованная в формат MLX для запуска через mlx-lm на компьютерах с Apple Silicon. Модель предназначена для генерации текста, диалогов, ролевых сценариев и задач, где требуется более прямое следование запросу. Модель содержит около 27 млрд параметров и использует групповое 6-битное квантование с размером группы 64. Размер файлов составляет примерно 21,9 ГБ. Репозиторий поддерживает только текстовый ввод: при конвертации удалена vision tower, поэтому обработка изображений недоступна. Многоцелевое предсказание токенов MTP также не сохранено, из-за чего инференс выполняется одной основной головой и может быть медленнее сборок с поддержкой MTP. В карточке указаны английский язык и контекстная длина не приведена. Сильной стороной является уменьшенный объём по сравнению с BF16-версией при сохранении возможностей 27B-модели и удобная интеграция с MLX. По данным тестов, 6-битная версия немного уступает BF16 по прямоте ответов, а режим thinking может чаще приводить к уклончивым или пустым ответам; для заявленного поведения рекомендуется отключать thinking. Abliteration снижает или удаляет исходное safety-выравнивание, поэтому модель требует осторожного применения. Лицензия — Apache-2.0.

PassingByPixels/Qwen3.8-27B-heretic-ara-NVFP4 — это квантизированная версия мультимодальной модели Qwen3.8-27B-heretic-ara, разработанная PassingByPixels на основе checkpoint от trohrbaugh. Исходная модель представляет собой кастомную Heretic ARA-версию Qwen3.8-27B от Qwen; данный репозиторий выполняет преобразование числового формата без дополнительного обучения, дообучения или изменения весов, за исключением восстановления MTP-головы. Модель предназначена для генерации и анализа текста и изображений, включая диалоговые сценарии с поддержкой reasoning и визуального ввода. Она рассчитана на запуск через vLLM на одном NVIDIA DGX Spark с GPU GB10 и 128 ГБ памяти. Используется смешанная точность: FFN и проекции full attention хранятся в NVFP4 — 4-битном формате с блоковыми 8-битными масштабами, а Gated DeltaNet, vision tower, embeddings, LM head и MTP-голова остаются в BF16. Размер весов уменьшен примерно с 51,8 до 20 ГБ; заявлена поддержка контекста до 131 072 токенов. В README указан английский язык. К сильным сторонам относятся существенно меньший размер, совместимость с Blackwell FP4-путём vLLM и поддержка speculative decoding через MTP. Работоспособность MTP проверена на DGX Spark, однако это не является оценкой качества модели. Ключевое ограничение — потерьное 4-битное преобразование: сравнительное тестирование качества с исходной BF16-моделью не проводилось, а заявленные возможности относятся прежде всего к исходным весам. Также отмечены ограничения совместимости MTP и FlashInfer на GB10. Модель распространяется по лицензии Apache 2.0, унаследованной от исходных моделей.

Qwen3.8-27B-i1-IQ4_KS_KT-GGUF — это квантизированные веса модели Qwen3.8-27B в формате GGUF, подготовленные пользователем cHunter789 на базе Qwen/Qwen3.6-27B. Модель предназначена для запуска через ik_llama.cpp на потребительских видеокартах NVIDIA с 16 ГБ видеопамяти. В карточке она обозначена как image-text-to-text, то есть рассчитана на обработку текстовых и визуальных входных данных, однако подробности о поддерживаемых форматах изображений и языках не указаны. Используются квантизации IQ_KS и IQ_KT с imatrix-файлами, собранными из наборов mradermacher и ubergarm; тензор token_emd.weight переведён в q8_0 для потенциально лучшей работы с неанглийскими языками. При квантизации KV-кэша в q4_0 заявлена поддержка контекста до 110 тысяч токенов, а конфигурация для 16 ГБ VRAM обеспечивает около 105 тысяч токенов. В README также приводятся результаты сравнения perplexity и параметры запуска, включая поддержку reasoning. Сильные стороны модели — относительно большой размер при возможности запуска на видеокарте с 16 ГБ памяти, длинный контекст и оптимизация под NVIDIA. Ограничения включают необходимость ik_llama.cpp, совместимость именно с NVIDIA GPU, зависимость характеристик от квантизации и настроек KV-кэша, а также отсутствие подробных независимых оценок качества, языкового покрытия и мультимодальных возможностей. Репозиторий распространяется по лицензии Apache-2.0.

OpenVINO/Qwen3.8-27B-int8-ov — квантизированная версия мультимодальной модели Qwen3.8-27B, разработанной командой Qwen. Модель преобразована в формат OpenVINO IR, а её веса сжаты до INT8 с помощью NNCF. Она предназначена для задач понимания изображений и видео, визуально-языкового диалога, описания изображений и выполнения сложных многошаговых задач с гибким управлением режимом рассуждений. Модель поддерживает текстовые и визуальные входы, однако точные сведения о языках и размере контекста в README не указаны. Ключевые особенности — архитектура исходной native vision-language модели Qwen3.8-27B и асимметричное INT8-сжатие весов с коэффициентом 1.0, что может снизить требования к ресурсам и ускорить инференс при сохранении практической применимости. Модель имеет экспериментальный статус и не прошла полную валидацию с OpenVINO; для работы требуются версии OpenVINO, OpenVINO GenAI и Optimum Intel из веток nightly или development, а также Transformers 5.2. Распространяется по лицензии Apache-2.0.

summerMC/Qwen3.8-27B-SpeedX27-VL-GDN64-GGUF — квантованная версия модели summerMC/Qwen3.8-27B-SpeedX27-VL-GDN64 в формате GGUF. Модель основана на архитектуре Qwen3.8 с идентификатором qwen35 и содержит около 27 млрд параметров. В README не указаны имя или организация разработчика, однако репозиторий модели связан с пользователем summerMC. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp. Указана поддержка модифицированной архитектуры Qwen с компонентами GDN и recurrent; для работы рекомендуется свежая версия llama.cpp. Максимальная длина контекста составляет 262 144 токена, но фактически доступный размер зависит от объёма RAM и VRAM. О модальностях и поддерживаемых языках дополнительных сведений нет. Предоставлена квантизация Q4_K_M, которая призвана обеспечить практический баланс между качеством, потреблением памяти и скоростью инференса. Формат GGUF удобен для локального развертывания, однако старые сборки llama.cpp могут не распознать архитектуру. К основным ограничениям относятся возможные требования к значительному объёму памяти и потенциальное снижение качества по сравнению с более точными версиями из-за квантизации. Лицензия — Apache-2.0; дополнительные условия использования следует уточнять в репозитории исходной модели.

Noobito45/Qwen3.8-9B-heretic-uncensored-NVFP4-GGUF — квантизированная GGUF-версия языковой модели, разработанная на основе empero-ai/Qwen3.8-9B. Модель создана с использованием Heretic v1.4.0 и предназначена для генерации текста, рассуждений и других задач, поддерживаемых исходной моделью Qwen3.8-9B. Это «decensored» или «uncensored» вариант, в котором снижена склонность к отказам: в указанной проверке модель отказалась отвечать на 22 из 100 запросов против 100 из 100 у исходной версии. Модель основана на архитектуре Qwen3.5-9B и представляет собой дистилляцию исходной Qwen3.8 2.4T A95B; точные характеристики архитектуры, размер контекста и полный набор языков в этой карточке не указаны. Доступная версия использует квантизацию NVFP4 + Q8_0 и предназначена для запуска в совместимых с GGUF средах, включая llama.cpp. По данным бенчмарков, квантизация вызывает небольшие изменения качества и поведения по сравнению с эталонной версией BF16; результаты зависят от оборудования и настроек оценки. Модель сохраняет близость к исходной по KL-дивергенции, однако снижение отказов может сопровождаться изменением поведения и не означает отсутствия ограничений или рисков при использовании. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

JacobLinCool/Qwen3-Embedding-0.6B-GIR-1 — текстовая Sentence Transformer модель, дообученная на Qwen/Qwen3-Embedding-0.6B. Она преобразует предложения и абзацы в плотные векторы размерности 1024; близость текстов оценивается косинусным сходством. Архитектура включает Qwen3Model, pooling по последнему токену и нормализацию эмбеддингов. Максимальная длина последовательности — 32 768 токенов, формат весов — safetensors. Модель предназначена для семантического поиска и сравнения текстов. В README приведена настройка на парах запрос–код, поэтому она подходит, в частности, для поиска фрагментов кода по запросу на естественном языке. Также заявлены поиск перефразировок, кластеризация и классификация текста. Метаданные и описание базовой модели указывают на многоязычную основу Qwen3; конкретные языки обучения этой версии не перечислены. Для поиска информации в README приведены высокие метрики на небольшом наборе из 100 оценочных примеров, поэтому они не гарантируют аналогичного качества на других данных. Лицензия в предоставленных данных не указана.

Карточка модели Umbasa/Qwen3-Omni-30B-A3B-Instruct-UMBASA-V1 на Hugging Face совпадает с карточкой Qwen/Qwen3-Omni-30B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.

Replete-LLM-Qwen2-7b-GGUF — набор GGUF-квантизаций модели Replete-LLM-Qwen2-7b, опубликованный и подготовленный квантизатором bartowski. Базовая модель разработана Replete-AI; в README указано, что квантизация выполнена с помощью llama.cpp release b3509 и метода imatrix. Модель предназначена для генерации текста и использования в локальных средах, включая LM Studio, с применением указанного шаблона prompt format. Это текстовая авторегрессионная модель семейства Qwen2 с заявленным размером 7 млрд параметров и поддержкой английского языка. Доступны варианты от F32 размером 30,47 ГБ до сильно сжатых IQ2_M размером 2,78 ГБ, включая форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ. Более высокие уровни квантизации обычно сохраняют лучшее качество, тогда как компактные варианты рассчитаны на системы с ограниченным объёмом оперативной памяти. Для некоторых вариантов embeddings и output weights сохранены в Q8_0, что может повышать качество, но эффект зависит от сценария. Сильные стороны набора — широкий выбор размера файлов и компромисса между качеством и требованиями к памяти, а также совместимость с llama.cpp и LM Studio. Ограничения включают потенциальное снижение качества в низкобитных вариантах и отсутствие в README подробных данных о контекстном окне, точной архитектуре, мультимодальности и результатах бенчмарков. Лицензия — Apache-2.0; в метаданных также указано, что модель связана с датасетом Replete-AI/Everything_Instruct_8k_context_filtered.

Sky-T1-32B-Flash-GGUF — GGUF-квантизированная версия текстовой генеративной модели Sky-T1-32B-Flash, разработанной NovaSky-AI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая LM Studio. Модель имеет 32 миллиарда параметров и ориентирована на работу с английским языком. В репозитории доступны варианты от BF16 и Q8_0 до низкобитных Q2_K и IQ2_M, поэтому можно выбирать между качеством ответов, требованиями к памяти и скоростью инференса. Для большинства сценариев автор рекомендует варианты Q4_K_M, Q5, Q6 и близкие к ним; более компактные версии подходят для систем с ограниченным объёмом RAM, но обеспечивают более низкое качество. Ключевые сведения об архитектуре, размере контекста, мультимодальности и специализированных возможностях в README не указаны. Модель является текстовой, поэтому данные о поддержке изображений или других модальностей отсутствуют. Для использования требуются совместимое ПО и значительные вычислительные ресурсы, особенно для BF16 и высококачественных квантизаций. Распространяется по лицензии Apache-2.0.

stackoverflow_mpnet-base — модель эмбеддингов предложений, разработанная в рамках Community Week Hugging Face для проекта по обучению моделей sentence embeddings. Она основана на microsoft/mpnet-base и дообучена сиамской сетью с контрастивной целью на 18,56 млн пар заголовков и текстов вопросов Stack Overflow; в качестве эмбеддинга используется mean pooling скрытых состояний. Веса доступны в формате PyTorch, размер модели — 136,7 млн параметров, контекст — до 514 токенов. Модель кодирует текст в векторы для семантического поиска, сравнения сходства и кластеризации. Она ориентирована на технические вопросы и ответы Stack Overflow, поэтому особенно подходит для поиска похожих вопросов и семантической навигации по базе знаний разработчиков. Карточка описывает обучение с последовательностями до 128 токенов; более длинные входы могут не соответствовать режиму обучения. Лицензия в предоставленных данных не указана.

StarMonarch-7B — объединённая диалоговая модель на архитектуре Mistral, созданная Ppoyaa методом SLERP с помощью LazyMergekit на основе mlabonne/AlphaMonarch-7B и Nexusflow/Starling-LM-7B-beta. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и общения в формате чата; карточка приводит результаты оценки на задачах рассуждения и здравого смысла. Метаданные указывают контекст до 32 768 токенов, тогда как README заявляет окно контекста 8k. Модель принимает текст и генерирует текст, поддерживаемый язык — английский. Распространяется под лицензией Apache-2.0. Результаты бенчмарков в карточке не гарантируют качество для конкретного применения.

Карточка модели Syninlab/Synin-1.0-Omni-Inquisitive на Hugging Face совпадает с карточкой Qwen/Qwen3-Omni-30B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.

Google T5 Version 1.1 LM-Adapted Small — плотная encoder-decoder модель семейства T5 с 45,8 млн параметров, доступная в форматах PyTorch и TensorFlow. Она основана на T5 Version 1.1 Small и дополнительно обучена 100 тысяч шагов на языковой моделирующей задаче; предварительное обучение на C4 включало denoising и language modeling. Вариант использует активацию GEGLU, отключённый dropout при предварительном обучении и отдельные параметры для embedding и classifier слоёв. Модель предназначена для последующей адаптации к текстовым задачам и особенно подходит как основа для prompt tuning. Архитектура T5 представляет задачи обработки языка в формате «текст на входе — текст на выходе», поэтому её можно дообучать для генерации и преобразования текста. В README описаны преимущества адаптации для prompt tuning, но конкретные результаты на отдельных задачах не приведены. Модель выпущена Google под лицензией Apache-2.0. README рекомендует повторно включать dropout при fine-tuning; сведения о длине контекста в предоставленных источниках отсутствуют.

Locutusque/UltraQwen-7B — диалоговая языковая модель на 7,1 млрд параметров, дообученная на примерно 100 000 примерах набора HuggingFaceH4/ultrachat_200k. В метаданных указаны архитектура LlamaForCausalLM, формат safetensors и контекст до 32 768 токенов; модель предназначена для генерации текста в диалоге. Автор сообщает о хороших результатах личных проверок на математике, истории, викторинах и задачах программирования, однако подробные метрики не приведены. Модель не проходила выравнивание DPO. Базовая модель — Qwen/Qwen-7B; в README указана лицензия other в метаданных, без конкретных условий использования.

Llama 30B Instruct 2048 — языковая модель для генерации текста и выполнения инструкций, разработанная Upstage. Представлена в репозитории TheBloke в формате GGUF, причём файлы модели были квантованы TheBloke на основе оригинальной модели upstage/llama-30b-instruct-2048. Модель предназначена для диалоговых сценариев, ответов на инструкции и общего текстового вывода на английском языке. Она основана на архитектуре Llama, содержит 30 миллиардов параметров и поддерживает контекст длиной 2048 токенов. В README также указано обучение или оценивание на наборах SciQ, ScienceQA text-only, GAIR/lima, OpenOrca и OpenBookQA. Для работы используется шаблон промпта с секциями System, User и Assistant. GGUF-версии рассчитаны на запуск через llama.cpp и совместимые интерфейсы и библиотеки, включая text-generation-webui, KoboldCpp, LM Studio, ctransformers и llama-cpp-python; доступны варианты квантования от 2 до 8 бит для CPU и GPU. Квантование уменьшает требования к ресурсам, но конкретное влияние на качество зависит от выбранного варианта. Модель поддерживает только текстовые сценарии, а её контекст ограничен 2048 токенами. В метаданных указана лицензия «other», однако её точные условия в README не приведены.

WestLakeSeverusV2-DPO-7B-DARE-TA — объединённая модель для генерации текста на основе архитектуры Mistral. Разработчик объединил FelixChao/WestSeverus-7B-DPO-v2 и macadeliccc/WestLake-7B-v2-laser-truthy-dpo методом dare_linear с помощью LazyMergekit; в конфигурации указаны веса 0,45 и 0,55, а также базовая модель mistralai/Mistral-7B-v0.1. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и принимает контекст до 32 768 токенов. Она предназначена для диалоговой генерации текста и ответов на запросы. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

XLNet base-cased — англоязычная предварительно обученная языковая модель, разработанная авторами XLNet и впервые выпущенная в этом репозитории. Она содержит 137,8 млн параметров, построена на архитектуре Transformer-XL и использует обобщённое авторегрессионное предобучение с перестановками токенов. Доступны веса PyTorch и TensorFlow; модель обучалась на BookCorpus и Wikipedia. Модель предназначена прежде всего для дообучения под задачи понимания текста, включая классификацию последовательностей и токенов, ответы на вопросы и ранжирование документов. В метаданных Hugging Face для неё указан тег text-generation, однако карточка советует для генерации рассматривать GPT-2, а XLNet использовать для задач, где решение опирается на целое предложение или его контекст. Модель распространяется по лицензии MIT.

YamshadowInex12_Experiment28Strangemerges_32 — слитая модель семейства Mistral, созданная на основе automerger/YamshadowInex12-7B и automerger/Experiment28Strangemerges_32-7B. Она предназначена для генерации текста и диалоговых сценариев на базе языковой модели. Модель имеет плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Она принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors; лицензия — Apache-2.0. Карточка не описывает специализацию, языки или результаты оценки качества, поэтому модель следует рассматривать как текстовую модель общего назначения. Качество и поведение конкретного слияния могут зависеть от запроса и требуют оценки для целевого применения.

MaziyarPanahi/YamshadowInex12_Inex12Experiment26 — объединённая языковая модель семейства Mistral с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Веса объединены из automerger/YamshadowInex12-7B и automerger/Inex12Experiment26-7B. Модель предназначена для генерации текста и принимает текстовые запросы, формируя текстовые ответы. Контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors, а лицензия указана как Apache-2.0.

zephyr-orpo-141b-A35b-v0.1-GGUF — это квантизированная версия языковой модели HuggingFaceH4/zephyr-orpo-141b-A35b-v0.1, подготовленная и опубликованная MaziyarPanahi в формате GGUF. Базовая модель основана на Mixtral-8x22B-v0.1 и дообучена с использованием метода ORPO на смеси общедоступных и синтетических наборов данных, включая argilla/distilabel-capybara-dpo-7k-binarized. Модель предназначена для генерации текста и диалоговых сценариев: ответов на вопросы, инструкций, помощников общего назначения и других задач NLP преимущественно на английском языке. Это Mixture of Experts (MoE) с 141 млрд общих параметров и 35 млрд активных параметров. Доступны варианты квантизации с разной разрядностью — от 2 до 16 бит, что позволяет выбирать компромисс между качеством, размером файлов и требованиями к ресурсам. Размер контекстного окна и поддержка других модальностей в README не указаны; модель является текстовой. Сильные стороны — крупная MoE-архитектура, диалоговая направленность и возможность локального запуска через совместимые инструменты, включая llama.cpp, с выбором степени квантизации. Ограничения включают преимущественную ориентацию на английский язык, высокие требования к вычислительным ресурсам для менее агрессивно квантизированных вариантов и возможное снижение качества при сильной квантизации. Лицензия — Apache 2.0.

jondurbin/airoboros-jamba-3-3 — экспериментальная чат-модель Джона Дурбина, дообученная методом QLoRA на базе jamba-v0.1. Модель содержит 7,2 млрд параметров, использует архитектуру Jamba с mixture-of-experts и предназначена для генерации текста в диалоге. В README заявлена настройка на синтетических данных Airoboros 3.2 и дополнительных наборах данных для вопросов по контексту, суммаризации, программирования, ролевого общения и генерации аргументов функций. Для контекстных вопросов модель обучали отвечать по предоставленным материалам и ограничивать ответ их содержанием, чтобы снизить галлюцинации. Поддерживаются многоходовый чат и шаблон запросов в формате Llama 2; для задач по контексту README рекомендует специальную разметку блоков. Хотя базовая Jamba заявляет контекст до 256 тысяч токенов, это дообучение выполнялось с длиной 8192 токена, поэтому результаты за этим пределом не определены. Модель распространяется в формате safetensors по лицензии Apache-2.0. Автор характеризует её как экспериментальную; качество и поведение могут быть нестабильными, а генерация планов для вызова функций сама по себе не выполняет инструменты.

Модель dsvv-cair/alpaca-cleaned-llama-30b-bf16 — языковая модель семейства LLaMA, дообученная методом QLoRA на наборе yahma/alpaca-cleaned. Она предназначена для генерации текста по запросам и инструкциям, включая ответы на вопросы и выполнение текстовых поручений. Модель содержит 32,3 млрд параметров, использует архитектуру LlamaForCausalLM и формат PyTorch; заявленная длина контекста — 2048 токенов. В README приведены результаты оценки на тестах ARC и HellaSwag. Для работы нужны совместимые средства запуска моделей PyTorch и подходящие вычислительные ресурсы для модели такого размера. Базовая модель — huggyllama/llama-30b. Лицензия в доступных данных не указана.

Atem-Wisdom-1.5B-i1-GGUF — набор квантизированных GGUF-файлов базовой модели EphAsad/Atem-Wisdom-1.5B, подготовленный и опубликованный mradermacher. Модель относится к семейству Qwen2 и предназначена для генерации текста с акцентом на рассуждения, включая математические, программные и другие задачи, требующие пошагового анализа. В обучении использовались наборы данных OpenThoughts-114k-math, Kimi-K2.5-Reasoning-1M-Cleaned, CodeX-2M-Thinking, medical-o1-reasoning-SFT, MiniMax_M2.7_Distilled_5k и OpenCodeReasoning, а также применялись LoRA и дистилляция. Указанный язык — английский. Это компактная текстовая модель с размером 1,5 млрд параметров, поставляемая в различных вариантах квантизации для llama.cpp и совместимых инструментов. Доступны варианты от IQ1 и Q2 до Q6, размер файлов составляет примерно от 0,5 до 1,4 ГБ. В README рекомендуется i1-Q4_K_M как быстрый вариант, а i1-Q4_K_S отмечен как оптимальный баланс размера, скорости и качества; низкобитные варианты экономят память, но могут заметно уступать по качеству. Мультимодальность и размер контекстного окна не указаны. Модель лицензирована по Apache-2.0. Описанные файлы являются квантизированными версиями, поэтому фактическое качество зависит от выбранного варианта; некоторые варианты прямо обозначены как имеющие низкое качество. Данные о результатах бенчмарков, безопасности и ограничениях применения в README отсутствуют.

aya-23-8B-IMat-GGUF — это квантизированная версия языковой модели CohereForAI/aya-23-8B, разработанной CohereForAI. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp, в формате GGUF. Доступны варианты от FP16 до низкобитных квантов, включая Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и семейство IQ-квантов. Модель имеет 8 миллиардов параметров и поддерживает работу с текстом на английском, французском, немецком, испанском, итальянском, португальском, японском, корейском, китайском, арабском, греческом, персидском, польском, индонезийском, чешском, иврите, хинди, нидерландском, румынском, русском, турецком, украинском и вьетнамском языках. Версия опубликована как результат квантизации с использованием llama.cpp и IMatrix; для некоторых низкобитных вариантов указано применение IMatrix, что может помогать сохранять качество при уменьшении размера модели. Сильная сторона модели — сочетание многоязычной текстовой генерации и широкого выбора квантованных файлов для запуска на оборудовании с разным объёмом памяти. Ограничения включают возможную потерю качества в наиболее агрессивных вариантах квантизации; сведения о контекстном окне, детальных архитектурных характеристиках и результатах тестирования в README не указаны. Лицензия — CC BY-NC 4.0, допускающая использование с обязательным соблюдением её условий и ограничений на коммерческое применение.

Barcenas-Qwen3.8-27B-Fable — плотная диалоговая модель на архитектуре Qwen3.5, созданная разработчиком Danielbrdz путём дообучения Qwen/Qwen3.8-27B на наборе saidutta69/fable-5-premium. В карточке она представлена как модель для генерации текста и работы с изображениями; поддерживает чат, а нативная длина контекста составляет 262 144 токена. В репозитории указано 22,3 млрд параметров и формат safetensors. Модель предназначена для диалогов и других задач генерации текста; разработчик отмечает, что обучение на данных чатов, дистиллированных из Claude Fable 5, призвано улучшить разговорные способности Qwen. Заявление о производительности, сопоставимой с GPT 5.6 Luna и более крупными моделями, приводится автором без результатов независимой оценки. Лицензия — Apache-2.0.

zeromodels/bart_base — реализация базового чекпойнта BART в формате Keras 3 от проекта zeromodels, перенесённая с facebook/bart-base. Это трансформер encoder-decoder для извлечения признаков и дообучения на задачах понимания и генерации текста; веса доступны в формате TensorFlow, а реализация рассчитана на работу с TensorFlow, Torch и JAX. Модель обучена восстанавливать искажённый текст: двунаправленный энкодер сочетается с авторегрессионным декодером, используется токенизатор byte-level BPE, общий с RoBERTa. Чекпойнт предназначен прежде всего как языковой backbone: его можно применять для получения признаков или дообучать для суммаризации, перевода, классификации последовательностей и других задач text-to-text. Головы задач, отсутствующие в репозитории, инициализируются случайно и требуют дообучения; готовые специализированные веса можно загружать отдельно. Лицензия — Apache-2.0.

Модель ruanchaves/bert-base-portuguese-cased-assin2-similarity — дообученная версия BERTimbau base, разработанная на основе neuralmind/bert-base-portuguese-cased. Она предназначена для оценки семантического сходства двух текстов на португальском языке с помощью классификационной головы BertForSequenceClassification и обучалась на наборе ASSIN 2. Модель содержит 136,1 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт результат классификации. Её можно применять для сравнения перефразировок, поиска похожих предложений и оценки сходства текстовых пар на португальском языке. Репозиторий содержит веса PyTorch. Сведения о лицензии в предоставленных данных отсутствуют.

Bonsai 2 27B Ternary CRACK GGUF — языковая модель на базе Qwen3.8-27B, сжатая компанией PrismML в тернарный формат, а затем модифицированная исследовательской командой dealignai. В модели на уровне весов удалены механизмы отказа от ответа; заявляется сохранение базовых возможностей, режимов рассуждения, использования инструментов, мультитуровой связности и интерфейса работы с изображениями. Модель распространяется в формате GGUF и предназначена для локального запуска на ноутбуке, одном GPU или CPU через форк llama.cpp от PrismML с поддержкой CUDA и Metal. Архитектура включает гибрид Attention и SSM на основе GatedDeltaNet, 64 блока, скрытое измерение 5120 и отдельную vision-башню. Используется квантование PrismML PQ2_0 с эффективностью 2,13 бит на вес и размером файла около 7,21 ГБ. Доступны режимы рассуждения off, low и xhigh; для обработки изображений требуются совместимые файлы mmproj. Токенизатор, шаблон чата и интерфейс vision заявлены совместимыми с базовой моделью. Языки и максимальная длина контекста в карточке не указаны. Сильными сторонами являются компактный размер для модели класса 27B, поддержка локального инференса, мультимодальность, режимы рассуждения и практически полное отсутствие отказов в приведённых тестах HarmBench. По данным MMLU, точность модифицированной версии составила 39,91% против 40,53% у базовой, то есть заявлено сохранение общей способности с небольшим снижением на данном тесте. К ограничениям относятся сильное снижение безопасности из-за удаления защитных механизмов, потери качества из-за экстремального квантования, необходимость специального форка llama.cpp и совместимого vision-проектора, а также отсутствие сведений о языках и контексте. Лицензия — Apache-2.0. Для ранее скачанных сборок рекомендуется повторная загрузка версии, выпущенной после 18 сентября 2026 года UTC, поскольку в старой версии была исправлена ошибка зацикливания токенов в режимах low и xhigh.