I.14Автоматизация процессов и AI-агенты

Qwen3.8-27B-ROCmFPX-GGUF — производная от базовой модели Qwen3.8-27B, разработанной командой Qwen. Репозиторий lmcoleman содержит квантизированную версию, подготовленную с использованием MagicQuant и AMD-ориентированных форматов ROCmFPX; сборка оптимизирована для AMD Strix Halo с графикой gfx1151. Модель предназначена для генерации текста и диалоговых сценариев, а при подключении файла mmproj поддерживает обработку изображений. Модель имеет размер 27 млрд параметров и распространяется в формате GGUF. Доступны гибридные варианты Q4 размером около 15,7 ГБ и Q6 размером около 22,2 ГБ; конфигурации используют разные схемы квантизации для отдельных групп тензоров, а чувствительные слои могут сохраняться в F16, BF16 или F32. В README заявлен английский язык. Для запуска приведены примеры с контекстом 8192 токена, однако максимальный размер контекста не указан. Сильной стороной является сочетание значительного уменьшения размера с небольшими измеренными потерями качества: для теста на wikitext-2 заявлены значения perplexity 6,7611 для Q4 и 6,7579 для Q6 при базовом значении BF16 6,7443. Q4 рекомендован как наиболее рациональный вариант по соотношению размера и качества. Главные ограничения — экспериментальный характер ROCmFPX и совместимость только со специальной форкой llama.cpp, собранной из исходников; стандартные llama.cpp, LM Studio и Ollama эти файлы не загружают. Лицензия — Apache 2.0, применяемая к производной модели согласно лицензии базовой модели.

Qwen3.8 27B Uncensored — GGUF — это набор общественно подготовленных квантованных версий языковой модели Qwen3.8 с примерно 27 млрд параметров. Репозиторий предназначен для запуска через llama.cpp и другие совместимые с GGUF движки; конкретный разработчик исходной модели в README не указан, указано лишь семейство Qwen и формат community GGUF quantizations. Модель предназначена для локальной генерации текста, диалоговых сценариев, экспериментов с инференсом и сравнения компромиссов между качеством, скоростью и потреблением памяти. Доступны варианты от исходной точности F16 размером около 52 ГБ до Q2_K размером около 11 ГБ. Рекомендуемым универсальным вариантом назван Q4_K_M размером примерно 16 ГиБ; более высокие уровни квантования обычно требуют больше памяти, а варианты Q3 и Q2 рассчитаны на ограниченные ресурсы. Ключевое преимущество набора — широкий выбор форматов квантования, полученных непосредственно из исходной F16-версии, что позволяет подбирать конфигурацию под оборудование и рабочую нагрузку. Ограничения включают потери качества, неизбежные при квантовании, причём они становятся заметнее на низких разрядностях. Результаты также зависят от контекста, промптов, параметров сэмплирования, оборудования и движка инференса; авторитетные сравнительные бенчмарки на момент описания отсутствуют. В README указана лицензия Apache-2.0, при этом условия исходной модели, включая требования к использованию и атрибуции, сохраняются.

Qwen3.8-27B-Uncensored-Q8_0-GGUF — это GGUF-конверсия дообученной модели orcarouter/Qwen3.8-27B-Uncensored. Конверсию выполнили с помощью llama.cpp через сервис GGUF-my-repo; исходная модель основана на Qwen3.8-27B и связана с ней как fine-tune. Модель распространяется в формате GGUF и предназначена для запуска с llama.cpp на совместимом оборудовании. Заявленные сценарии включают обработку текста и изображений, reasoning, function calling, red-teaming и AI safety research. В карточке указаны английский и китайский языки, а также тег vision-language, однако подробности об архитектуре, поддерживаемых типах изображений, максимальном контексте и фактических возможностях function calling не приведены. Размер модели составляет 27B параметров, используется квантование Q8_0, что может снизить требования к памяти по сравнению с полноразмерной версией, сохраняя близкое к исходному качество, но конкретные требования к ресурсам не указаны. Модель может быть удобна для локального инференса через llama.cpp и серверного развёртывания. Ограничения включают отсутствие в README результатов тестирования, подробного описания датасета и дообучения, а также сведений о производительности и безопасности; заявленное «uncensored» позиционирование также означает необходимость самостоятельной оценки рисков и фильтрации ответов. Указана лицензия Apache-2.0.

Aldaris/Qwen3-8B-Q4_K_M-GGUF — это квантованный вариант базовой модели Qwen/Qwen3-8B, преобразованный пользователем Aldaris в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и локального запуска через llama.cpp, включая командный интерфейс и серверный режим. Модель содержит 8 миллиардов параметров и использует квантование Q4_K_M, что уменьшает требования к ресурсам по сравнению с полноразмерной версией и делает её подходящей для локального вывода на совместимом оборудовании. В README указано использование контекста размером 2048 токенов в примере запуска, однако максимальный размер контекста, архитектура, поддерживаемые языки и дополнительные модальности не описаны. К сильным сторонам относятся переносимость формата GGUF, совместимость с llama.cpp и возможность локального использования. Ограничениями являются потенциальная потеря качества из-за квантования, зависимость от llama.cpp для рекомендованного запуска и отсутствие в представленных данных подробных сведений о возможностях исходной модели. Лицензия — Apache 2.0.

ilintar/qwen3.8-flash-next-gguf-strix-halo — это GGUF-квантизация модели Qwen3.8-Flash-Next, предназначенная для генерации текста. Базовая модель относится к семейству Qwen; в README указано 176,94 млрд параметров, формат квантования IQ4_NL и общий объём весов 93,16 GiB в девяти файлах. Модель поддерживает английский язык, рассчитана на текстовые задачи и имеет обученный контекст до 262 144 токенов. Архитектура обозначена как qwen4exp и включает рекуррентный gated delta-net, разреженное lightning-indexer attention и поуровневые embeddings. В комплект входит отдельная draft head размером 2,6 GB в формате Q8_0 для ускорения генерации. Ключевой сценарий использования — запуск на одном AMD Ryzen AI Max+ с Radeon 8060S, архитектурой gfx1151 и 128 GB unified memory. Для работы необходимы специальная ветка strix-halo проекта llama.cpp и соответствующие ROCm/HIP-ядра; upstream-версия llama.cpp не подходит. Модель демонстрирует высокую скорость предварительной обработки контекста: около 1152 токенов/с при пустом контексте и около 1060 токенов/с на глубине 40 000 токенов. Скорость генерации ниже — примерно 24 и 15 токенов/с соответственно. Решение экспериментальное, требует точной конфигурации загрузчика и практически использует значительную часть unified memory, поэтому доступный объём памяти ограничивает работу с KV-кэшем и вычислительными буферами. Качество проверялось сравнением perplexity с эталонным стеком, публичные benchmark-результаты не указаны. Лицензия — Apache-2.0.

amd/Qwen3.8-Flash-Next-Quark-MXFP4-PLEFP8 — квантизированный чекпойнт модели Qwen3.8-Flash-Next, подготовленный Advanced Micro Devices (AMD) с использованием AMD-Quark. Модель предназначена для генерации текста по текстовым, графическим и видео­входам; заявленный язык — английский. Архитектура указана как Qwen4ExpForConditionalGeneration, а инференс реализован через SGLang. Основная особенность чекпойнта — квантизация MoE-экспертов, включая shared expert, в OCP MXFP4 для весов и динамических активаций. Таблица PLE-эмбеддингов квантизирована в Per-Tensor FP8, остальные ключевые компоненты, включая attention, Mamba-style linear-attention projections, vision tower, MTP head, router gates и lm_head, сохранены в bfloat16. Модель оптимизирована для AMD Instinct MI350X и MI355X, использует ROCm 7.2.4, PyTorch 2.11.0+rocm7.2, Transformers 5.12.1 и Linux. Чекпойнт рассчитан на ресурсоэффективное развертывание MoE-модели на совместимом оборудовании AMD. На GSM8K в режиме 5-shot он показал результат 96,44 против 96,97 у исходной Qwen3.8-Flash-Next, что соответствует восстановлению 99,5% исходной точности. Ограничения включают узкую аппаратно-программную специализацию, зависимость от конкретной версии SGLang и отсутствие в README сведений о размере модели, длине контекста и более широком наборе оценок. Лицензия обозначена как other; для модификаций указано авторство Advanced Micro Devices, Inc. за 2026 год. Полные условия приведены в файле LICENSE репозитория модели.

Qwen3.8-Flash-Next-Uncensored-GGUF — набор GGUF-квантизированных версий модели Qwen3.8-Flash-Next, опубликованный OrcaRouter. Это аблированная сборка с существенно удалёнными механизмами отказа, предназначенная прежде всего для исследований интерпретируемости, безопасности ИИ, red teaming и оценки устойчивости. Модель поддерживает генерацию текста, reasoning, function calling и работу с изображениями через отдельный файл mmproj; заявлены английский и китайский языки. Архитектура представляет собой крупную Mixture-of-Experts-модель с 512 экспертами, из которых при обработке токена активируются 10 маршрутизируемых и один общий эксперт. Используется экспериментальная архитектура Qwen4 qwen4_exp с линейным вниманием Gated DeltaNet, Qwen Sparse Attention, HyperConnections и PLE n-gram hash embeddings. Доступны квантизации от 2 до 8 бит, включая варианты Q2_K–Q8_0. Модель запускается через llama.cpp на CPU, CUDA, Metal и ROCm; для поддержки архитектуры требуется свежая сборка llama.cpp с поддержкой qwen4_exp. Также возможна speculative decoding через MTP при использовании совместимых сборок и файлов-драфтеров. Главные преимущества — сочетание MoE-архитектуры, vision-language возможностей, reasoning и инструментального вызова функций, а также широкий выбор квантизаций для различного объёма памяти. Ограничения включают высокие требования к ресурсам, заметное снижение качества у наиболее компактных 2-битных вариантов, необходимость отдельного mmproj для зрения и несовместимость со старыми версиями llama.cpp. Из-за удаления защитных механизмов модель может выполнять вредоносные или незаконные запросы, поэтому перед практическим применением необходимы собственные фильтры безопасности и модерации. Распространение осуществляется по лицензии Apache 2.0, унаследованной от базовой модели.

Карточка модели Koulano/Qwen3-Omni-30B-A3B-Thinking на Hugging Face совпадает с карточкой Qwen/Qwen3-Omni-30B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.

llmfan46/Qwen3-VL-32B-Instruct-uncensored-heretic — версия Qwen3-VL-32B-Instruct, изменённая независимым автором методом abliteration для снижения частоты отказов. Это плотная мультимодальная модель на 32 млрд параметров с архитектурой Qwen3-VL, предназначенная для диалога по тексту и изображениям, визуального анализа, OCR и рассуждений по визуальным данным. В карточке описана поддержка видео и контекст до 256 тысяч токенов базовой модели; расширение до миллиона токенов заявлено для семейства Qwen3-VL. Автор приводит результаты PIQA и MMLU: на PIQA вариант набрал 93,31% против 93,09% у исходной модели, а на MMLU — 81,44% против 82,44%. В README также указаны 15 отказов из 100 тестовых запросов против 99 у оригинала. Эти результаты относятся к тестам автора и не гарантируют качество на других задачах. Модель распространяется в формате safetensors через Transformers по лицензии Apache-2.0.

Qwick-3.5-9B — модель Nobuyuki Horiuchi, дообученная на основе Qwen/Qwen3.5-9B. Это самостоятельный чекпойнт BF16 в формате Transformers, предназначенный для генерации текста с более короткими рассуждениями: при близких результатах на MMLU-Pro и GPQA-Diamond длина ответов в приведённых сравнениях сокращалась примерно на 29–40%. Модель также оценивалась на следовании инструкциям, японских вопросах и генерации кода. Основные сценарии — текстовые рассуждения и ответы на вопросы; README приводит оценку сохранения возможностей на изображениях по валидационной выборке MMMU, но автор не квалифицирует модель для широкого мультимодального развёртывания. Модель рассчитана в первую очередь на японский и английский языки. Репозиторий содержит веса Safetensors и использует библиотеку Transformers; лицензия — Apache-2.0. Качество зависит от задачи и профиля генерации: например, в README зафиксировано снижение результата на HMMT и регрессия в разделе инженерии MMLU-Pro. Модель не оценивалась для критически важных рекомендаций, решений с высоким воздействием без надзора или автономных действий; результаты для других форматов, настроек и распределений изображений требуют отдельной проверки.

Qwopus3.6-27B-v1-preview-i1-GGUF — квантованная GGUF-версия модели Qwopus3.6-27B-v1-preview, опубликованная mradermacher на основе модели Jackrong. Модель относится к классу conversational и instruct, ориентирована на диалоговое взаимодействие и задачи рассуждения. В README также указано, что это мультимодальная vision-language-модель, способная работать с изображениями и текстом. Модель содержит 27 миллиардов параметров и поддерживает английский, китайский, японский, корейский, испанский и русский языки. Точная архитектура, размер контекста и спецификация мультимодального компонента не указаны. Доступны варианты квантования i1-IQ1_S, i1-IQ1_M, i1-IQ2, i1-IQ3, i1-IQ4, i1-Q2_K, i1-Q3_K, i1-Q4, i1-Q5_K и i1-Q6_K размером примерно от 7,2 до 22,2 ГБ. Более сильное квантование обычно требует больше памяти, тогда как низкобитные варианты экономичнее, но могут заметно терять в качестве. Для создания модели использовались датасеты Claude-Distillation-Dataset, GLM-5.1-Reasoning-1M-Cleaned, Kimi-K2.5-Reasoning-1M-Cleaned и Qwen3.5-reasoning-700x. Это может быть преимуществом для диалогов и задач рассуждения, однако README не содержит результатов тестирования, поэтому качество нельзя оценить количественно. Для работы с изображениями могут потребоваться дополнительные mmproj-файлы из статического репозитория. Модель распространяется по лицензии Apache-2.0.

RemixLlama3-8B — чат-модель для генерации текста, созданная слиянием моделей Llama 3 с помощью mergekit. В состав слияния входят RLHFlow/LLaMA3-iterative-DPO-final, failspy/Meta-Llama-3-8B-Instruct-abliterated-v3 и TIGER-Lab/MAmmoTH2-8B-Plus; в конфигурации указаны метод model_stock и точность bfloat16. Архитектура — плотная автрорегрессионная LlamaForCausalLM с 7,5 млрд параметров и контекстом 8192 токена. Модель предназначена для диалогов и генерации ответов на текстовые запросы. Базовая модель с изменёнными весами ориентирована на снижение склонности к отказам, а компоненты слияния включают модель, обученную методом DPO, и модель MAmmoTH2. Репозиторий использует формат safetensors. Указанная лицензия — llama3.

Replete-LLM-Qwen2-7b_Beta-Preview-GGUF — это GGUF-квантизованная версия языковой модели Replete-LLM-Qwen2-7b_Beta-Preview, разработанной Replete-AI и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp и совместимые приложения, включая LM Studio. В README также указан обучающий датасет Replete-AI/Everything_Instruct_8k_context_filtered. Модель основана на архитектуре Qwen2 и содержит около 7 млрд параметров. Доступны варианты от BF16 до различных уровней квантизации Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-серий; размеры файлов составляют примерно от 3,5 до 15,2 ГБ. Указан английский язык и контекст до 8k, связанный с использованным датасетом. Это текстовая модель без заявленной поддержки других модальностей. Сильная сторона репозитория — широкий выбор вариантов квантизации, позволяющий подобрать баланс между качеством, потреблением памяти и скоростью локального запуска. Высококачественными считаются варианты Q6 и Q5, а Q4 предлагают компромисс по размеру. Более сильная квантизация снижает требования к памяти, но может ухудшать качество генерации. Модель распространяется по лицензии Apache-2.0.

Savant-LLaMa-70B — объединённая языковая модель автора TareksGraveyard, созданная с помощью mergekit методом della_linear. В качестве базовой использована nbeerbower/Llama-3.1-Nemotron-lorablated-70B; в объединение также вошли пять моделей семейств Llama от EVA-UNIT-01, Sao10K, SicariusSicariiStuff и TheDrummer. Модель предназначена для диалогового общения и генерации текста. Она построена на архитектуре Llama с 69,5 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 131 072 токена. В README автор описывает результат как эксперимент слияния и оценивает его как достойный, но отмечает, что предпочитает другой собственный вариант. Репозиторий содержит веса Safetensors и использует лицензию Llama 3.3. Перед применением следует учитывать условия лицензии Llama 3.3 и ограничения, унаследованные от включённых моделей; README не приводит отдельной оценки качества или подробных рекомендаций по безопасному использованию.

ShadowYamshadow_Strangemerges_30Experiment28 — объединённая языковая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста по текстовому запросу и поддерживает контекст до 32 768 токенов. Модель создана путём слияния automerger/ShadowYamshadow-7B и automerger/Strangemerges_30Experiment28-7B. Весовые файлы опубликованы в формате safetensors. Лицензия — Apache-2.0.

SharkOgno-11b-Passthrough — объединённая модель генерации текста, созданная powermove72 с помощью LazyMergekit из powermove72/Shark-1 и eren23/OGNO-7b-dpo-truthful. В конфигурации указаны метод слияния passthrough, объединение токенизаторов и точность float16. Метаданные описывают плотную Mistral-подобную архитектуру MistralForCausalLM с 10,6 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев; базовая модель OGNO-7b-dpo-truthful ориентирована на правдивость ответов. Метаданные также указывают text-classification среди поддерживаемых задач, однако основная задача и pipeline_tag — text-generation. Лицензия в предоставленных данных не указана.

Это чат-модель MaziyarPanahi, полученная слиянием Mistral-7B-Instruct-v0.1 и speechless-mistral-dolphin-orca-platypus-samantha-7b-dare-0.85 методом SLERP. Она предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст; карточка указывает формат safetensors и лицензию Apache-2.0. README описывает смешивание весов в bfloat16 с отдельными параметрами для слоёв self-attention и MLP. Данные карточки не задают конкретные языки или специализированные области применения.

SymSTS-MiniLM-L6 — англоязычная модель Blueprint AI для оценки семантического сходства двух предложений. Это дообученная версия sentence-transformers/all-MiniLM-L6-v2 на основе энкодера BERT; в метаданных указано 25,9 млн параметров и контекст до 512 токенов. Модель создаёт векторные представления предложений и предназначена прежде всего для сравнения их смысла, а не для универсального поиска по документам или классификации. При обучении пары предложений меняли местами, сохраняя оценку сходства; использованы обучающие части STS-бенчмарков, включая STS Benchmark и STS12. Модель рассчитана на быстрый запуск на CPU и потребительских GPU. Лицензия — Apache-2.0. Качество может снижаться на текстах, существенно отличающихся от англоязычных STS-данных, например в специализированных доменах. Симметричность сходства не всегда подходит для задач направленного поиска; в высокорисковых сценариях модель не следует использовать как единственное основание для решения.

Tess-XS-v1-3-yarn-128K-Mistral-7B-Instruct-v0.1 — чат-модель на архитектуре Mistral с 7,1 млрд параметров, созданная MaziyarPanahi слиянием mistralai/Mistral-7B-Instruct-v0.1 и migtissera/Tess-XS-v1-3-yarn-128K. В README указано слияние методом SLERP; модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель принимает текст и выдаёт текст. В метаданных указан контекст длиной 32 768 токенов. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Документация не приводит конкретных ограничений или результатов оценки качества.

Cohere и Cohere Labs разработали Cohere Labs Tiny Aya Earth — авторегрессионную языковую модель на 3,35 млрд параметров для многоязычной генерации текста и диалогов, с особым акцентом на языки Западной Азии и Африки. Модель принимает текст и выдаёт текст; поддерживает более 70 языков. Контекст составляет 8K токенов, заявлена также генерация до 8K токенов. Архитектура основана на оптимизированном трансформере: три слоя используют скользящее внимание с окном 4096 и RoPE, а четвёртый — глобальное внимание. После предобучения модель прошла дообучение с учителем и обучение на предпочтениях. Модель подходит для многоязычных диалогов, генерации, суммаризации, перевода и межъязыковых задач, включая работу с языками с ограниченными обучающими данными и локальное развёртывание при ограниченных вычислительных ресурсах. Карточка отмечает сильные стороны в открытой генерации и работе с низкоресурсными языками. Лицензия CC-BY-NC-4.0 запрещает коммерческое использование без отдельного согласования; также требуется соблюдать политику допустимого использования Cohere Labs.

TSFT-RAG Gemma-3-12B-IT — модель на базе Gemma-3-12B-IT, которую Sascha Frank разработал в рамках исследовательского проекта TSFT-RAG. Это полно-параметрическое дообучение с архитектурой Gemma3ForConditionalGeneration и 12 млрд параметров; модель предназначена для генерации ответов в системах поиска с дополненной генерацией (RAG), а не для универсального диалога. Она принимает текстовые запросы и контекст документов и формирует текстовые ответы, включая структурированный JSON. Модель обучалась отвечать по найденным источникам, выявлять вопросы без достаточных подтверждений, извлекать темы, ключевые сообщения и аргументы, а также генерировать цитаты. В оценке проекта улучшились общая агрегированная оценка и распознавание неподтверждённых вопросов относительно базовой модели, однако результат на grounded QA немного снизился. Основные ограничения: общее открытое общение не было целью оптимизации, оценка проводилась преимущественно на немецкоязычных наборах данных, мультимодальные возможности не оценивались. Для юридических, медицинских и других критически важных решений нужны проверка человеком и атрибуция источников. Лицензия — Gemma.

una-cybertron-7b-v3-OMA — языковая модель, разработанная juanako.ai (автор Xavier M.) и представленная OMA. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, обработанная методом UNA (Uniform Neural Alignment); автор указывает, что это не слияние слоёв и не SLERP-подобное объединение моделей. Модель предназначена для генерации текста в формате диалога или инструкций; карточка выделяет математику, логику и рассуждения, а также общие ответы, объяснения, стихи, рассказы и шутки. В README рекомендуются форматы ChatML и Alpaca System. Метаданные указывают контекст до 32 768 токенов, библиотеку Transformers и формат весов safetensors; лицензия — Apache-2.0. Карточка также заявляет, что модели UNA можно дообучать и использовать как основу для слияния, и что в ней есть цифровой водяной знак.

v1olet_marcoroni-go-bruins-merge-7B-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная путём слияния весов Mistral-7B-Instruct-v0.1 и v1olet/v1olet_marcoroni-go-bruins-merge-7B методом SLERP. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации ответов на инструкции и диалоговые запросы на английском языке. Лицензия Apache-2.0 допускает использование, изменение и распространение в соответствии с её условиями. Карточка не приводит сравнительных оценок качества или результатов тестирования.

Wernicke-7B-v8 — объединённая модель на 7,1 млрд параметров, созданная CultriX с помощью LazyMergekit на основе четырёх моделей: kaitchup/Mayonnaise-4in1-022, macadeliccc/WestLake-7B-v2-laser-truthy-dpo, vanillaOVO/supermario_v2 и FelixChao/WestSeverus-7B-DPO-v2. Это плотная Mistral-архитектура для авторегрессионной генерации текста, в том числе диалогов и ответов на запросы. Модель принимает текст и генерирует текст. Размер контекста — до 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Языки и специализированные предметные области в доступных данных не определены. Модель подходит для диалоговых интерфейсов, генерации текстовых ответов и продолжения текста. Качество и поведение объединённой модели могут зависеть от конкретного запроса; сравнительные оценки и подробные сведения об обучении в карточке не приведены.

WestBreeze-7B-DPO — языковая модель на архитектуре Mistral, созданная PetroGPT слиянием моделей через LazyMergekit. Конфигурация указывает на слияние WestSeverus-7B-DPO-v2 и Breeze-Petro-7B-Instruct-v1 методом slerp; в метаданных базовой моделью указана PetroGPT/WestSeverus-7B-DPO-v2. Репозиторий содержит веса Safetensors, а общий размер модели составляет 14,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов. Для базовой модели заявлены справочная помощь по математике, естественным наукам и программированию; эти сценарии могут быть полезны и для WestBreeze, однако отдельные оценки её качества в README не приведены. Контекстное окно составляет 32 768 токенов. Модель принимает текст и генерирует текст; сведения о поддерживаемых естественных языках не приведены. Лицензия — Apache-2.0. Характеристики и области применения частично основаны на описании базовой модели, поэтому качество ответов WestBreeze в отдельных задачах по карточке установить нельзя.

vishnukv/WestSeverusJaskier — объединённая автором модель семейства Mistral, созданная с помощью mergekit методом SLERP из PetroGPT/WestSeverus-7B-DPO и bardsai/jaskier-7b-dpo-v6.1. Это плотная авторегрессионная языковая модель с 7,1 млрд параметров, предназначенная для генерации текста и ответов на запросы. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Модель подходит для диалоговых сценариев, ответов на вопросы и генерации текста общего назначения. В README приведены результаты оценки на Open LLM Leaderboard: среднее значение 75,67, включая показатели на AI2 Reasoning Challenge и HellaSwag; эти цифры сами по себе не гарантируют качество в конкретном применении. В метаданных указана лицензия MIT. Карточка не сообщает о специальных ограничениях или подтверждённой поддержке конкретных естественных языков.

YamshadowExperiment27pastiche-7B — текстовая генеративная модель на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Это автоматическое объединение моделей, созданное Maxime Labonne; в конфигурации указаны YamShadow-7B и Experiment27Pastiche-7B, метод DARE-TIES. Модель предназначена для генерации текста и диалоговых ответов. Формат весов — safetensors. Лицензия — Apache-2.0.

Yi-1.5-34B-Chat-GGUF — квантизированная версия чат-модели Yi-1.5-34B-Chat, разработанной 01-ai и преобразованной в формат GGUF компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая использование через LlamaEdge. Для работы применяется шаблон запросов ChatML и контекст длиной до 7168 токенов. Модель имеет размер 34 млрд параметров; в README не указаны поддерживаемые языки и модальности, поэтому её следует рассматривать как текстовую. Доступны варианты с разной степенью квантизации от Q2_K до Q8_0, а также версии f16. Вариант Q4_K_M рекомендован как сбалансированный по размеру и качеству, тогда как Q5_K_M и Q5_K_S обеспечивают меньшее снижение качества при большем потреблении памяти. Более сильная квантизация уменьшает размер файлов и требования к ресурсам, но может заметно ухудшать качество ответов. Модель распространяется по лицензии Apache-2.0. Для запуска с LlamaEdge в README указана версия, которая на момент публикации ещё не была доступна; приведены команды для сервиса и консольного приложения. Размеры файлов зависят от варианта квантизации и составляют примерно от 12,8 до 36,5 ГБ.

Yi-1.5-6B-Chat-GGUF — это квантизированная GGUF-версия диалоговой языковой модели Yi-1.5-6B-Chat, разработанной компанией 01-ai и подготовленной для публикации компанией Second State Inc. Модель предназначена для генерации текста и ведения диалогов, включая локальный запуск через LlamaEdge. Для работы используется шаблон запросов ChatML, а заявленный размер контекста составляет 4096 токенов. Модель основана на архитектуре Yi и содержит около 6 миллиардов параметров. Она поддерживает текстовый ввод и вывод; сведения о конкретном наборе языков в README не указаны. Доступны варианты квантизации от Q2_K до Q8_0, а также f16, с размером файлов примерно от 2,34 до 12,1 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с малой потерей качества. Более сильная квантизация уменьшает требования к памяти, но может заметно снизить качество. Модель подходит для локальных чат-приложений и сервисов генерации текста при использовании LlamaEdge версии 0.10.0 или новее. Ограничения включают контекст длиной 4096 токенов, возможную потерю качества у компактных вариантов квантизации и отсутствие в README подробных данных о производительности, языках и результатах оценки. Лицензия указана как yi-license; её текст доступен в файле LICENSE.

GLM-4.7-GGUF — набор квантизованных версий языковой модели GLM-4.7, разработанной zai-org и подготовленной пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие проекты на его основе. Заявлены английский и китайский языки; поддерживаются сценарии диалогового взаимодействия и текстовой генерации с указанным в README форматом промпта. Модель поставляется в формате GGUF с вариантами квантизации Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4 и IQ2–IQ4, размером от 88,79 до 380,97 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp версии b7475. Старшие варианты обеспечивают более высокое качество, тогда как младшие требуют меньше памяти, но заметно уступают по качеству; точные архитектурные характеристики, число параметров, размер контекста и поддерживаемые модальности в README не указаны. Модель распространяется по лицензии MIT.