I.14Автоматизация процессов и AI-агенты

chandc/my-embedding-gemma — текстовая Sentence Transformer-модель, дообученная на базе google/embeddinggemma-300m. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска и извлечения релевантных текстов. Модель использует косинусное сходство и принимает последовательности длиной до 2048 токенов. Для дообучения указаны три примера с парами запросов и релевантных и нерелевантных текстов; применялась функция потерь MultipleNegativesRankingLoss. Примеры относятся к финансовым и страховым вопросам, но их мало, поэтому они не подтверждают надёжную специализацию или качество в этих областях. Модель работает только с текстом; лицензия в предоставленных данных не указана.

NB-Whisper Large — модель распознавания речи и перевода аудио, разработанная NB AI-Lab Национальной библиотекой Норвегии на основе OpenAI Whisper. Вариант Large содержит 905,2 млн параметров и предназначен прежде всего для транскрибации норвежской речи, включая букмол и нюнорск, а также английской речи. Для обучения серии использовались 8 млн выровненных аудиофрагментов общей длительностью около 66 тысяч часов; карточка указывает базовую модель openai/whisper-large-v3. Модель принимает аудио и выдаёт текстовую транскрипцию; поддерживает распознавание речи и перевод речи. Для длинных записей README рекомендует обработку фрагментами примерно по 28 секунд; увеличение beam size может повысить точность ценой скорости и памяти. Для эффективной работы версии Large рекомендуется GPU. Модель распространяется по лицензии Apache 2.0. Результаты могут содержать ошибки, повторы и искажения, а качество зависит от записи и языка. Разработчики отмечают возможные смещения и возлагают на пользователей ответственность за оценку рисков и корректное применение модели.

NeoCortex-7B-slerp — языковая модель на архитектуре Mistral, созданная Kukedlc с помощью слияния моделей LazyMergekit методом SLERP. В состав слияния вошли Kukedlc/Neural4gsm8k и macadeliccc/WestLake-7B-v2-laser-truthy-dpo. Модель предназначена для генерации текста и ответов на запросы. Она содержит 7,1 млрд параметров, принимает текст и имеет контекст длиной до 32 768 токенов. В карточке указана лицензия Apache-2.0. Сведения о специализации на отдельных языках или предметных областях не приведены.

NeuralPipe-7B-ties — слитая модель для генерации текста, созданная mlabonne с помощью mergekit на основе OpenPipe/mistral-ft-optimized-1218 и mlabonne/NeuralHermes-2.5-Mistral-7B. В конфигурации слияния TIES также указана mistralai/Mistral-7B-v0.1 как базовая модель; параметры включают нормализацию и маску int8, итоговый тип данных — float16. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров. Заявленная длина контекста — 32 768 токенов. Она предназначена для генерации текста; README приводит результаты оценок на AI2 Reasoning Challenge и HellaSwag. Репозиторий распространяется по лицензии Apache-2.0.

NeuralsirkrishnaShadow_NeuralExperiment26 — объединённая модель Mistral, созданная на основе automerger/NeuralsirkrishnaShadow-7B и automerger/NeuralExperiment26-7B. Она предназначена для генерации текста по текстовому запросу и подходит для диалоговых и других текстовых сценариев. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Веса доступны в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0.

nomic-embed-text-v1-ablated — текстовый энкодер для создания векторных представлений предложений и текстов, разработанный Nomic AI. Это контрольный чекпойнт семейства Nomic Embed Text, обученный на изменённом наборе данных, отличавшемся от данных финальной модели; его выпустили, чтобы изучать влияние частей обучающего набора на результаты. Архитектура — NomicBert, доступны форматы PyTorch и ONNX, контекстное окно составляет 8192 токена. Модель подходит для извлечения эмбеддингов и вычисления сходства между текстами, например, для поиска по смыслу и оценки близости предложений. Разработчики рекомендуют для практического извлечения эмбеддингов использовать nomic-embed-text-v1. README не сообщает поддерживаемые естественные языки или лицензию, поэтому эти сведения не включены.

Noromaid-7b-v0.2-Mistral-7B-Instruct-v0.1 — языковая чат-модель MaziyarPanahi для генерации текста и ответов на диалоговые запросы. Она получена слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.1 и NeverSleep/Noromaid-7b-v0.2; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров. Модель принимает текст и выдаёт текст. Заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса Safetensors в формате bfloat16 и распространяется по лицензии Apache-2.0. Карточка не описывает отдельные языковые или предметные специализации, поэтому модель можно рассматривать как универсальную чат-модель.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-mxfp4 — языковая модель для генерации текста, разработанная NVIDIA и преобразованная сообществом mlx-community в формат MLX на основе модели NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16. Конвертация выполнена с использованием mlx-lm 0.31.3; применяется квантование MXFP4 с размером группы 32. Модель предназначена для запуска и генерации текста в экосистеме MLX, в том числе через библиотеку mlx-lm. Это гибридная Mixture-of-Experts-архитектура, объединяющая Mamba-2 и attention. Она содержит около 31 млрд параметров, из которых примерно 3 млрд активируются для каждого токена. В карточке заявлена поддержка английского, испанского, французского, немецкого, итальянского и японского языков. Сильными сторонами являются разреженная активация параметров и оптимизированный для MLX формат, однако конкретные характеристики контекстного окна, результаты тестов, точность и ограничения квантования не указаны. Модель распространяется по лицензии OpenMDW 1.1.

elprofessor67 дообучил мультимодальную модель Qwen3-VL-32B-Instruct с помощью Unsloth и библиотеки Hugging Face TRL. Это плотная модель семейства Qwen3-VL на 32 млрд параметров, которая принимает текст и изображения и формирует текстовые ответы; поддерживает диалог и интерфейс вызова инструментов. Её можно применять для вопросов по изображениям, распознавания текста на изображениях и анализа визуальных материалов. В метаданных указан английский язык карточки модели, но специальных данных о языковой специализации дообучения нет. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает конкретные обучающие данные, результаты оценки качества или ограничения дообученной версии; возможности и качество отдельных задач поэтому следует проверять на целевых данных.

OpenBuddy — это мультиязычная чат-модель, разработанная проектом OpenBuddy на базе семейства Meta LLaMA. В репозитории представлена плотная авторегрессионная архитектура LlamaForCausalLM размером 12,9 млрд параметров, с контекстом до 65 536 токенов; веса сохранены в формате Safetensors. Модель предназначена для диалогов и генерации текста на китайском, английском, французском, немецком, японском, корейском, итальянском, русском и финском языках. Модель подходит для чат-ботов, ответов на вопросы и генерации текста с длинным контекстом. Она может выдавать ошибочные, вредные или оскорбительные ответы, поэтому не подходит для критически важных решений, медицинских рекомендаций и управления системами, где ошибка может причинить ущерб. Использование регулируется лицензией Llama 2: требуется соблюдать условия Meta и иметь право на доступ к исходной модели; модель предоставляется без гарантий.

Open-Instruct Unnatural Instructions 7B — языковая модель семейства LLaMA, дообученная Allen Institute for AI на наборе Unnatural Instructions для следования инструкциям и генерации текста. Это модельный diff: для её использования требуется исходная модель LLaMA в формате Hugging Face, а инструкция по применению предполагает заданный формат входных данных. Модель имеет плотную архитектуру LlamaForCausalLM и около 6,6 млрд параметров. Она принимает текст и генерирует текст, поддерживает английский язык и рассчитана на контекст до 2048 токенов. В карточке приведены результаты тестирования на задачах вопросов и ответов, математики, рассуждений, программирования и следования инструкциям. Модель распространяется по лицензии AI Model License вместе с исходной лицензией LLaMA. Результаты в карточке показывают ограничения на ряде тестов, в частности на математических задачах и ответах на вопросы без контекста; качество зависит от соблюдения обучающего формата ввода.

OpenYourMind выпустил вариант NVIDIA Nemotron-3-Ultra-550B-A55B с ослабленными отказами на запросы: в веса внесена правка методом abliteration, а сама модель представлена в формате NVFP4. Архитектура NemotronHForCausalLM сочетает Mamba-2, Attention и Latent-MoE; в README указаны 550 млрд параметров всего и 55 млрд активных, 108 слоёв и сохранённая голова MTP для спекулятивного декодирования. Модель предназначена для генерации текста, диалогов и задач рассуждения; режим enable_thinking позволяет получать рассуждения перед ответом. Автор заявляет, что после правки сохранены рассуждения, связность и фактическая точность, но независимые оценки в карточке не приведены. Весовой набор занимает около 329 ГБ; для запуска полного контекста README рекомендует узел с 4× B200/B300 или 8× H100 и vLLM версии 0.22 или новее. Указан контекст до 262 144 токенов. Лицензия — OpenMDW-1.1, унаследованная от базовой модели.

OpenSearch-AI/Ops-MoA-Conan-embedding-v1 — текстовая модель эмбеддингов от OpenSearch AI на архитектуре BERT. Она предназначена для преобразования текстов в векторы, которые можно использовать для поиска по смыслу и сравнения предложений. Модель поддерживает задачи feature-extraction и sentence-similarity, имеет 424,3 млн параметров и контекст до 512 токенов. Для работы подходит библиотека Sentence Transformers; веса доступны в формате PyTorch. В метаданных указан китайский язык. Карточка содержит пример кодирования текста, но не приводит оценки качества или подробностей обучения. Лицензия не указана в предоставленных данных.

Parakon 30B — сжатая версия Qwen3-30B-A3B-Instruct-2507, подготовленная Parakon. Модель предназначена для диалогов и генерации текста; карточка сообщает о сохранении качества на тестах рассуждений, математики, знаний и использования инструментов. На коде и строгом следовании формату инструкций качество снижается сильнее. Модель использует формат хранения Parakon и запускается через Parakon runtime. Опубликован runtime для CUDA; README приводит измерения скорости также для Metal и CPU на внутренних сборках, которые пока не опубликованы. В тестах указаны сжатие с 61 ГБ до 5,94 ГБ, медианное сохранение качества 88% и контекст до 262 144 токенов. Лицензия в метаданных обозначена как other.

phi-3.1-qlora-blend-dpo — объединённая модель на архитектуре Phi-3, созданная ndavidson с помощью mergekit и метода TIES. В состав слияния входят microsoft/Phi-3-mini-4k-instruct и две модели ndavidson/phi-3.1-qlorablend-1 и ndavidson/phi-3.1-qlorablend-0; итоговая модель содержит 3,7 млрд параметров и распространяется в формате safetensors. Модель предназначена для диалогов и генерации текста. Она принимает текст и выдаёт текст, поддерживает контекст до 4096 токенов. В метаданных указана лицензия Apache-2.0. Данные карточки не описывают отдельные специализированные области применения или языки, поэтому модель можно охарактеризовать как общего назначения.

Sorawiz/Phi-4-Base — объединённая языковая модель, созданная автором репозитория с помощью mergekit и метода TIES на основе нескольких моделей семейства Phi-4. В состав вошли Phi-4-Empathetic, LoRA-phi-4-abliterated, Phi-4-Math-IO, Phi-4-o1 и Phi-4-QwQ. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 14,1 млрд параметров и использует контекст до 16 384 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Состав исходных моделей ориентирует её на эмпатичные ответы, математику, рассуждения и задачи в стиле QwQ и o1. Репозиторий распространяет веса в формате safetensors для библиотеки Transformers. Лицензия в предоставленных данных не указана.

OPI-PIB/pl-ModernBERT-base — базовый одноязычный энкодер ModernBERT для польского языка, обученный разработчиками семейства Polish ModernBERT. Модель содержит 148,7 млн параметров, использует 22 слоя с размером скрытого состояния 768 и принимает последовательности длиной до 8 194 токенов. Архитектура включает RoPE, слои GeGLU, предварительную нормализацию и чередование глобального и локального внимания; веса доступны в формате Safetensors. Модель предварительно обучена на польском корпусе примерно из 44,5 млрд токенов с задачей masked language modeling. В исходном виде она подходит для заполнения пропусков в тексте, а после адаптации — для классификации документов и последовательностей, разметки сущностей, оценки сходства, поиска и переранжирования. В оценке на 30 польских NLU-задачах базовые варианты показали конкурентные результаты, включая задачи с длинным контекстом. Модель принимает текст и выдаёт текстовые предсказания токенов; она не является готовым чат-ассистентом и для большинства прикладных задач требует дообучения или дополнительной головы. Лицензия Apache-2.0 допускает широкое использование при соблюдении её условий.

Prox 7B DPO — языковая модель OpenVoid AI на архитектуре Mistral, дообученная на базе Mistral-7b-v0.2. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; в репозитории доступны веса Safetensors. Карточка указывает английский язык и лицензию Apache-2.0. Модель предназначена для генерации и объяснения кода, документирования, вопросов о кибербезопасности и методах взлома, а также помощи в проектах по программированию. Она дообучалась на материалах по кодированию и кибербезопасности, включая наборы данных для DPO; README также упоминает собственный набор OpenVoid AI. Ответы модели могут содержать ошибки и требуют проверки специалистом. Разработчик предостерегает от использования её для критически важных задач безопасности и незаконной деятельности. Лицензия репозитория — Apache-2.0.

Pythia-Chat-Base-7B — диалоговая языковая модель, разработанная Together Computer в рамках OpenChatKit и дообученная на базе Pythia-7B от EleutherAI. Для настройки использовались более 40 млн инструкций, а затем небольшая выборка отзывов людей для адаптации ответов к предпочтениям пользователей. Модель имеет плотную архитектуру GPT-NeoX, около 8,8 млрд параметров и контекст до 2048 токенов; основной язык — английский. Модель предназначена для чат-ботов и диалоговых сценариев. Она подходит для ответов на вопросы по предоставленному контексту, суммаризации, извлечения информации и классификации; в задачах классификации и извлечения может помогать несколько примеров в запросе. По README, инференс в обычном режиме требует GPU с 24 ГБ памяти, а режим Int8 позволяет использовать GPU с 12 ГБ. Модель распространяется по лицензии Apache 2.0. Модель может галлюцинировать при ответах на фактические вопросы, повторять ответы и терять нить разговора при смене темы. Она слабо подходит для программирования, длинных творческих текстов и критически важных решений; результаты следует проверять.

AISE-TUDelft/python-usage-classifier — модель Sentence-Transformers на базе MPNet, разработанная AISE-TUDelft. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения смысловой близости, семантического поиска и кластеризации. Модель содержит 136,7 млн параметров, принимает текст и имеет контекст до 514 токенов. Модель подходит для поиска похожих фрагментов и группировки текстов по смыслу. В README указано обучение с CosineSimilarityLoss; доступен формат PyTorch. Карточка не описывает специализированные языки или прикладные области. Лицензия в предоставленных данных не указана.

Aldaris/Qwen3-14B-Q4_K_M-GGUF — это квантизированная версия базовой модели Qwen/Qwen3-14B, преобразованная в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и запуска локально через llama.cpp, включая режим командной строки и серверный режим. Модель содержит 14 миллиардов параметров и использует квантизацию Q4_K_M, что уменьшает требования к памяти по сравнению с полной версией модели, но может снижать точность и качество генерации. В README указана текстовая модальность и поддержка запуска на Mac, Linux и оборудовании с аппаратным ускорением, включая Nvidia GPU; сведения о языках, архитектурных особенностях и максимальной длине контекста не приведены. В качестве примера запуска указан контекст размером 2048 токенов, однако это не обязательно максимальное значение модели. Модель подходит для локальных чат-сценариев, генерации текста и интеграции в приложения через llama.cpp. Лицензия указана как Apache 2.0; подробные характеристики и ограничения следует уточнять в карточке исходной модели Qwen/Qwen3-14B.

Parda21/Qwen3-4B-NWC — версия языковой модели Qwen3-4B, представленная в формате Neural Weight Compression (NWC). Линейные слои и связанные эмбеддинги хранятся в сжатом BF16-виде; веса восстанавливаются непосредственно CUDA-ядром при умножении матриц. По заявлению автора, веса побитово совпадают с исходной моделью и не квантизированы. Репозиторий содержит 3,7 млрд параметров и рассчитан на контекст до 40 960 токенов. Модель предназначена для генерации текста и диалогов. По сравнению с исходной версией BF16 автор сообщает о сокращении размера весов с 8,04 до 5,55 ГБ, использовании видеопамяти с 8,10 до 5,67 ГБ и скорости 55 против 45 токенов в секунду на RTX 4070 в указанном режиме. Для запуска нужны библиотека nwc, Transformers, Accelerate и CUDA; специальный формат требует поддержки NWC. Лицензия весов — Apache-2.0, как у базовой модели.

llmfan46/Qwen3.5-40B-Claude-4.5-Opus-High-Reasoning-Thinking-uncensored-heretic-GGUF — GGUF-квантизация модели, разработанная независимым автором llmfan46 на базе llmfan46/Qwen3.5-40B-Claude-4.5-Opus-High-Reasoning-Thinking-uncensored-heretic. В README также указано использование набора данных TeichAI/claude-4.5-opus-high-reasoning-250x. Точные сведения о методе обучения и конкретных параметрах квантизации не приведены. Модель предназначена для диалогов, программирования, творческого письма, генерации и продолжения сюжетов, ролевых сценариев, а также работы с различными жанрами художественного текста. Заявлены английский и китайский языки. Модель относится к reasoning-моделям: по умолчанию она использует режим пошагового рассуждения с токенами <think>, при этом поддерживается instruct-режим без рассуждений через настройку chat template или параметров инференса. В README заявлена мультимодальная архитектура Qwen3.5 с поддержкой текста, изображений и видео, а pipeline обозначен как image-text-to-text. Указанный размер — 40B параметров. Среди сильных сторон заявлены высокое качество рассуждений, творческого письма и сниженное количество отказов по сравнению с исходной моделью. Ограничения включают отсутствие данных о размере контекстного окна, системных требованиях, точных характеристиках GGUF-файлов и результатах независимого тестирования; режим с уменьшенными отказами также может повышать риски небезопасной генерации. Лицензия указана как Apache-2.0.

Qwen3.5-4B-Comprehension-new-judge-policy-v70-merged — текстовая генеративная модель, опубликованная пользователем leonardovazsp на Hugging Face. По метаданным модель предназначена для генерации текста и поддерживает conversational-сценарии; разработчик, базовая модель и лицензия в доступных материалах не указаны. Модель содержит около 3,4 млрд параметров, использует экосистему Transformers и имеет нативное контекстное окно до 262 144 токенов. По названию модель относится к семейству Qwen3.5 и, вероятно, ориентирована на задачи comprehension и judging, однако README не содержит подтверждённых сведений о методах обучения, оценивании или конкретных форматах таких задач. Модель может применяться для диалоговой генерации, продолжения текста, анализа предоставленного контекста и интеграции в приложения на базе Transformers. Ограничения включают отсутствие в карточке подробностей о языках, качестве, безопасности, смещениях, тестовых результатах и условиях лицензирования; результаты следует проверять на целевых данных перед использованием.

Qwen3.6-27B-V2-abliterated-uncensored-TQ3_4S-GGUF — мультимодальная модель Lemura Labs на базе объединённых Qwen3.6-27B и Jackrong/Qwopus3.6-27B-v2. Последняя версия описана как дистилляция рассуждений Claude Opus на основе Qwen3.6-27B. Модель прошла abliteration для снижения числа отказов и выпущена в формате GGUF с квантизацией TQ3_4S; для обработки изображений требуется отдельный файл проектора mmproj.gguf. Модель предназначена для диалогов, рассуждений и работы с изображениями. Гибридная архитектура сочетает линейное внимание GatedDeltaNet и полнослойное softmax-внимание; заявленная длина контекста — 262144 токена. В карточке сообщается о снижении отказов с 91 до 4 из 100 проверочных запросов при KL-дивергенции 0,0176. Доступны GGUF-веса размером около 14 ГБ вместе с проектором; для TQ3_4S требуется форк llama.cpp от turbo-tan, а без mmproj вход изображений недоступен. Модель принимает текст и изображения и генерирует текст. В метаданных указаны английский и китайский языки, а также мультиязычная поддержка. Лицензия — Apache-2.0. Вследствие удаления отказов модель может отвечать на запросы, которые исходная модель отклоняла; результаты генерации требуют соответствующей проверки.

Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled-IQ4_XS-GGUF — это GGUF-квантизация модели lordx64 Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled. Модель предназначена для локального запуска через llama.cpp и LM Studio и относится к задачам генерации текста и рассуждений. Базовая модель дообучена методом reasoning distillation для имитации стиля рассуждений Claude Opus 4.7 и формирует явные блоки <think>...</think> перед итоговым ответом. Модель построена на архитектуре Qwen3.6-35B-A3B с MoE, однако подробные характеристики архитектуры, поддерживаемые языки и исходный размер контекста в README не указаны. Для данной версии применяется квантизация IQ4_XS; размер файла составляет примерно 18 ГБ, что делает её наиболее компактным вариантом среди перечисленных и подходящим выбором по умолчанию для LM Studio. В README также упоминается запуск с контекстом до 32768 токенов, но не уточняется, является ли это максимальным поддерживаемым значением. Сильными сторонами являются локальная работа, сравнительно небольшой размер для модели этого класса и ориентация на явные пошаговые рассуждения. Ограничения связаны с потерями качества, неизбежными при квантизации IQ4_XS, а также с отсутствием в представленном README данных о результатах оценивания, точности, языковой поддержке и назначении для конкретных прикладных областей. Лицензия — Apache 2.0, унаследованная от базовой модели.

Qwen3.8-2.4T-A95B-NVFP4 — это 4-битная NVFP4-квантизованная версия модели Qwen3.8-2.4T-A95B, разработанной командой Qwen. Модель предназначена для генерации текста и опубликована в формате, совместимом с Transformers и vLLM; в README приведён пример запуска через vLLM. Веса представлены в формате nvfp4-pack-quantized: используется 4-битное представление с группами по 16 элементов, FP8-масштабированием групп и глобальным масштабом на тензор. Квантизации подверглись 143 569 линейных слоёв, при этом слоёв, оставленных в BF16, нет. Модель разделена на 328 шардов и занимает около 1382,45 ГБ на диске. Средняя относительная ошибка восстановления весов относительно исходных BF16-весов составляет 0,0952. Основное преимущество варианта — существенное сокращение размера по сравнению с FP8-версией при сохранении умеренной ошибки квантизации, что может упростить размещение крупной модели в инфраструктуре, поддерживающей NVFP4 и vLLM. Ограничениями являются очень большой объём весов, возможное снижение качества по сравнению с исходными BF16-весами и необходимость совместимого программного и аппаратного окружения. Сведения о поддерживаемых языках, длине контекста, точной архитектуре и специализированных сценариях применения в README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Brainwaves — экспериментальная объединённая модель от независимой лаборатории NightmediaAI. В README указано слияние нескольких моделей семейств Qwen3.6 и Qwen3.8; метаданные подтверждают архитектуру Qwen3.5/Qwen3_5ForConditionalGeneration, 27 млрд параметров в названии и поддержку изображений. Модель предназначена для диалогов, следования инструкциям, рассуждений и анализа изображений; в карточке также заявлены творческое письмо, математика, STEM и программирование. Модель опубликована в формате Safetensors и работает через Transformers. Карточка приводит результаты тестов для одного из компонентов слияния, но не даёт сопоставимой оценки итоговой модели. Метаданные указывают английский, китайский, японский и испанский языки. Лицензия — Apache-2.0.

Это семейство GGUF-квантизированных вариантов модели Qwen3.8-27B, опубликованное разработчиком MagicQuant и основанное на базовой модели Qwen/Qwen3.8-27B. Релиз предназначен для генерации текста и диалоговых сценариев, а также для локального запуска моделей через совместимое с GGUF программное обеспечение, включая инструменты llama.cpp. В набор входят гибридные конфигурации MagicQuant и варианты Unsloth с разными уровнями квантования — от MQ-Q6_K_1 и MQ-Q6_K_2 до MQ-IQ2_XXS_1. Размер файлов составляет примерно от 8,27 до 29,03 ГБ. README описывает сравнительное тестирование по метрике KLD и отбор конфигураций, показавших лучшие компромиссы между размером и сохранением характеристик исходной модели. Точные сведения об архитектуре, длине контекста, поддерживаемых языках и модальностях кроме текстовой генерации не указаны. Основные преимущества — широкий выбор размеров, возможность подобрать вариант под доступную память и сохранение качества при использовании более крупных квантов; однако степень потери качества зависит от выбранной конфигурации, а наиболее компактные варианты имеют существенно более высокий KLD. Условия распространения указаны как Apache-2.0.

mradermacher/Qwen3.8-27B-thinkingcap-abliterated-i1-GGUF — набор квантизованных GGUF-версий модели hotdogs/Qwen3.8-27B-thinkingcap-abliterated. Квантизацию выполнил mradermacher; исходная модель связана с датасетом hotdogs/thinkingcap-sft-qwen38-27b. Модель предназначена для генерации текста, рассуждений и задач, где важны эффективное мышление и экономное использование токенов. В метаданных также указана поддержка изображений, однако для работы с визуальными входами могут потребоваться отдельные файлы mmproj из статического репозитория. Модель относится к семейству Qwen и содержит около 27 миллиардов параметров, но точная архитектура и размер контекстного окна в README не указаны. Заявлен английский язык. Репозиторий предоставляет варианты квантизации i1 с различными форматами и размерами примерно от 11 до 22,5 ГБ, включая Q2_K, Q3, IQ3, IQ4, Q4, Q5 и Q6. Более качественные варианты требуют больше памяти, тогда как компактные версии позволяют снизить требования к оборудованию, но могут заметнее терять качество; конкретные характеристики скорости и точности не приведены. Модель распространяется по лицензии Apache-2.0. README не содержит результатов бенчмарков, подробного описания базовой архитектуры, контекстного окна или рекомендаций по аппаратным требованиям, поэтому пригодность для конкретных задач следует проверять экспериментально.