II.1Анализ требований и архитектура ПО

YamshadowStrangemerges_32_NeuralsirkrishnaM7 — объединённая модель семейства Mistral, созданная на основе automerger/YamshadowStrangemerges_32-7B и automerger/NeuralsirkrishnaM7-7B. Она содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и распространяется в формате safetensors. Модель предназначена для генерации текста и диалогов. Контекст составляет до 32 768 токенов. В карточке не описаны специальные предметные области или поддерживаемые языки. Модель опубликована под лицензией Apache-2.0.

YamshadowStrangemerges_32_T3qM7 — объединённая языковая модель семейства Mistral, созданная из automerger/YamshadowStrangemerges_32-7B и automerger/T3qM7-7B. Модель содержит 7,1 млрд параметров и использует архитектуру MistralForCausalLM; её контекст рассчитан на 32 768 токенов. Модель предназначена для генерации текста и диалога по текстовым запросам. Её можно применять для составления ответов, продолжения текста и ведения диалога. Карточка не уточняет специализацию или языки обучения. Модель распространяется под лицензией Apache-2.0.

YamWizard28-7B — слитая языковая модель на архитектуре Mistral, опубликованная пользователем v000000. Она предназначена для генерации текста и диалогов в формате Alpaca. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса объединены методом SLERP с помощью mergekit из automerger/YamshadowExperiment28-7B и fearlessdots/WizardLM-2-7B-abliterated. Доступны файлы Safetensors; в README также упомянуты варианты GGUF и GGUF imatrix, включая Q8_0. Лицензия в предоставленных данных не указана.

adamo1139/Yi-1.5-34B-32K-rebased-1406 — языковая модель на архитектуре Llama с 33,9 млрд параметров и контекстом до 32 768 токенов. Автор дообучил Yi-1.5-34B-32K методом SFT на наборе uninstruct-v1-experimental-chatml, затем провёл обучение ORPO на rawrr_v2-2_stage1. Модель предназначена для генерации текста и диалоговых ответов. Автор описывает её как эксперимент по устранению загрязнения синтетическими данными в SFT исходной Yi-1.5-34B-32K. В README также упоминается план дальнейшей работы с датасетом AEZAKMI v4, поэтому текущий чекпойнт следует считать экспериментальным. Модель распространяется в формате safetensors по лицензии Apache-2.0.

MaziyarPanahi/zephyr-7b-alpha-dare-0.85-Mistral-7B-Instruct-v0.1 — чат-модель для генерации текста, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и uukuguy/zephyr-7b-alpha-dare-0.85. В README указан метод слияния slerp с выбором параметров по слоям для блоков self-attention и MLP. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации ответов на инструкции и диалоговые запросы; заявленная длина контекста — 32 768 токенов. Доступны веса в формате safetensors. Лицензия — Apache-2.0. В карточке не приведены сведения о поддерживаемых естественных языках или специальных предметных областях.

zephyr-orpo-141b-A35b-v0.1-GGUF — это набор GGUF-квантизаций текстовой языковой модели zephyr-orpo-141b-A35b-v0.1, разработанной HuggingFaceH4 и квантованной bartowski с использованием llama.cpp. В качестве базовой модели указана mistral-community/Mixtral-8x22B-v0.1; обучение выполнено методом ORPO на датасете argilla/distilabel-capybara-dpo-7k-binarized. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с системными и пользовательскими сообщениями через специальный chat-шаблон. Поддерживается текстовая модальность, однако сведения о языках и размере контекста в README не указаны. Доступны варианты квантования от Q2_K до Q5_K_M, включая K- и I-квантизации, с размером файлов примерно от 52,10 до 99,96 ГБ. Q5_K_M и Q5_K_S заявлены как высококачественные, Q4-варианты — как обеспечивающие хороший баланс качества и объёма, а варианты ниже Q4 экономят память ценой снижения качества. I-квантизации могут быть предпочтительнее для некоторых конфигураций cuBLAS и rocBLAS, но несовместимы с Vulkan; выбор зависит от доступных RAM и VRAM. Для запуска требуется загрузить все части выбранного файла. В README указана лицензия Apache-2.0.

jeiku/32kBase — слитая языковая модель на архитектуре Mistral, созданная автором репозитория с помощью mergekit. В слиянии методом SLERP использованы jeiku/DareDeez и jeiku/DareNutz; модель содержит 7,1 млрд параметров и имеет контекст длиной до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Метаданные также отмечают интерфейс вызова инструментов. Веса опубликованы в формате Safetensors, библиотека для работы — Transformers. Лицензия в предоставленных данных не указана.

ishikaa/acquisition_generator_AS_proximity_omnimath_qwen14b — генеративная языковая модель, опубликованная пользователем ishikaa на Hugging Face. В метаданных она обозначена как модель для text-generation и conversational-сценариев, совместимая с библиотекой Transformers; разработчик, лицензия и базовая модель в карточке не указаны. Модель относится к семейству Qwen2 и содержит около 14 миллиардов параметров. Она поддерживает контекст длиной до 32 768 токенов и предназначена для генерации продолжений текста и диалоговых ответов. Её можно использовать в приложениях на базе Transformers для создания текста, прототипирования чат-ботов и обработки длинных текстовых запросов. README практически не содержит сведений о данных обучения, целевых предметных областях, результатах оценки или специальных преимуществах модели. Поэтому качество, безопасность и пригодность для конкретных задач необходимо проверять самостоятельно; условия лицензии также следует уточнить перед использованием.

A-I-0xtom-7B-slerp — объединённая языковая модель, созданная автором репозитория с помощью LazyMergekit методом SLERP из 0x0dad0/nous_nous_v2_0 и tomaszki/nous-thirty. Это плотная авторегрессионная модель семейства Llama с 7,1 млрд параметров, предназначенная для генерации текста и диалогового общения. Заявленная длина контекста — 32 768 токенов; веса опубликованы в формате SafeTensors, конфигурация слияния использует bfloat16. Модель подходит для генерации ответов и продолжения текста в чат-сценариях. В README приведены результаты оценки на бенчмарках рассуждений и понимания текста, а также средняя оценка потерь; эти показатели сами по себе не гарантируют качество в конкретном применении. Репозиторий распространяется по лицензии Apache-2.0.

airoboros-33b-gpt4-1.4 — плотная авторегрессионная языковая модель семейства LLaMA с 32,3 млрд параметров, дообученная Джоном Дёрбином методом QLoRA на синтетических данных, созданных GPT-4. Модель предназначена для диалогов с ассистентом, ответов на вопросы по заданному контексту, написания текстов и кода, ролевых бесед, загадок и викторин. Для программирования обучающие примеры включают задачи Rosetta Code на десяти языках программирования. Модель принимает текст и генерирует текст; для диалогов использует шаблон Vicuna 1.1 и обученный формат с ролями пользователя и ассистента. В карточке указан контекст длиной 2048 токенов. При ответах по предоставленному контексту модель настраивали опираться на него и ограничивать выдуманные сведения, однако README отмечает, что этот режим лучше дополнительно инструктировать не придумывать неизвестные ответы. Автор пометил модель как ещё не протестированную, поэтому её качество и надёжность не подтверждены. В README также указано, что она формировалась для ответов без отказов, в том числе независимо от законности или морали запроса. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

Olmo-3.1-32B-Think-GGUF — это квантизированная версия текстовой генеративной модели Olmo-3.1-32B-Think, разработанной Allen Institute for AI (AI2). Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. В репозитории доступны варианты от BF16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K и Q3_K, включая IQ-квантизации. Размер файлов варьируется примерно от 14 до 64 ГБ, поэтому модель можно адаптировать под доступные ресурсы, выбирая компромисс между качеством и потреблением памяти. Указан английский язык; сведения об архитектуре, максимальном контексте, мультимодальности и поддерживаемых языках, кроме английского, не предоставлены. Сильной стороной модели являются варианты с высокой точностью, близкой к исходной, а также возможность локального запуска на совместимом оборудовании. Низкобитные варианты экономят память, но могут снижать качество генерации; некоторые форматы имеют устаревшие особенности или не рекомендуются из-за более низкого качества. Модель распространяется по лицензии Apache-2.0.

Модель для генерации текста, размещённая в репозитории gradients-io-tournaments/augmented-8a3f84c4cc4a752. Она предназначена для создания продолжений текста и диалоговых ответов в приложениях на базе Transformers. Модель имеет около 1,2 млрд параметров, поддерживает контекст длиной до 131 072 токенов и распространяется в формате, совместимом с библиотекой Transformers и safetensors. В метаданных она связана с семейством Llama и conversational-сценариями, однако подробности об архитектуре, обучающих данных, языках, разработчиках, лицензии и результатах оценки не приведены. Модель может использоваться для чат-ботов, генерации черновиков и продолжения текстов. Из-за отсутствия сведений об обучении и тестировании результаты следует проверять, особенно в задачах, требующих фактической точности, безопасности или специализированной экспертизы.

Beyonder-4x7b — языковая модель для генерации текста и диалогов, созданная Mlabonne как смесь экспертов (MoE) с помощью mergekit на ветке Mixtral. В неё объединены openchat/openchat-3.5-1210, beowolx/CodeNinja-1.0-OpenChat-7B, maywell/PiVoT-0.1-Starling-LM-RP и WizardLM/WizardMath-7B-V1.1. Архитектура Mixtral использует несколько экспертных сетей; размер модели по метаданным — 7,1 млрд параметров, контекст — до 8192 токенов. Модель предназначена для генерации текста в чате и может применяться для диалоговых ответов, объяснений, помощи с кодом и математическими задачами. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии Apache-2.0. README содержит лишь краткий пример ответа и не приводит сравнительных оценок качества.

BigWeave v12 90B — языковая модель семейства Llama, созданная автором llmixer для генерации текста и диалогов. Это слияние DARE-TIES двух промежуточных слияний: Xwin-LM-70B-v0.1 с Euryale-1.3-70B и Platypus2-70B-Instruct с WinterGoddess-1.4x-70B. Модель содержит 87,5 млрд параметров, использует формат safetensors и рассчитана на контекст до 4096 токенов. Модель предназначена для диалогов и генерации ответов в форматах запросов Vicuna и Alpaca. В карточке приведены результаты тестов на нескольких языковых и логических наборах; автор сообщает, что объединённая модель показала меньшую perplexity, чем исходные модели. Размер 90B позволяет запускать 4-битные квантизованные варианты на GPU с 48 ГБ видеопамяти, но это относится к квантизованным вариантам, а не к опубликованным весам safetensors. Лицензия — Llama 2; применимость её условий следует проверять перед использованием.

Blur-4x7b-MOE-v0.1 — объединённая методом LazyMergekit модель Mixtral Mixture of Experts, созданная liminerity на основе четырёх моделей семейства Blur. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов; веса опубликованы в формате safetensors. Модель предназначена для генерации текста и общих языковых задач. В README приведены результаты Open LLM Leaderboard, включая показатели на тестах AI2 Reasoning Challenge и HellaSwag. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает, для каких языков она оптимизирована, поэтому конкретные языки не перечислены.

bruphin-eta — языковая модель на архитектуре Mistral, созданная nbeerbower слиянием предварительно обученных моделей nbeerbower/bruphin-epsilon и jondurbin/bagel-dpo-7b-v0.4 методом SLERP с помощью mergekit. Модель содержит 7,1 млрд параметров и принимает текстовые запросы для генерации продолжений и диалоговых ответов. Модель рассчитана на генерацию текста и чат-сценарии. Её контекстное окно составляет до 32 768 токенов; веса опубликованы в формате Safetensors. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит конкретных языков, специализированных областей или оценок качества.

calme-2.1-qwen2-72b-GGUF — это квантизированная версия дообученной языковой модели calme-2.1-qwen2-72b, разработанная и квантизированная MaziyarPanahi на основе Qwen/Qwen2-72B-Instruct. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, рассуждения и выполнение инструкций. Она распространяется в формате GGUF с вариантами квантования от 2 до 8 бит, а также 16-битной версией, что позволяет выбирать компромисс между качеством, требованиями к памяти и скоростью работы, в том числе при локальном запуске через llama.cpp. Архитектура, модальности, поддерживаемые языки и размер контекста в README не указаны. Для взаимодействия используется шаблон ChatML. В приведённых оценках модель получила accuracy 0,6761 на TruthfulQA, 0,8248 на Winogrande, 0,7184 нормализованной accuracy на ARC-Challenge и до 0,8893 exact match на GSM8K; эти результаты характеризуют отдельные тесты и не гарантируют качество в любых прикладных сценариях. Квантизация может уменьшать требования к ресурсам, но потенциально сопровождается потерей качества по сравнению с исходной точностью. Лицензия обозначена как other; в качестве лицензии указана tongyi-qianwen, а ссылка ведёт на лицензию Qwen/Qwen2-72B-Instruct. Условия использования следует уточнять по указанному лицензионному документу.

Cerberus-7B-slerp — объединённая модель для генерации текста, созданная методом slerp с помощью mergekit на основе fblgit/UNA-TheBeagle-7b-v1 и UCLA-AGI/zephyr-7b-sft-full-SPIN-iter3. Это плотная Mistral-модель с 7,1 млрд параметров, принимающая текст и поддерживающая контекст до 32 768 токенов. Она подходит для генерации текста и диалоговых задач; в README приведены результаты Open LLM Leaderboard по рассуждениям и пониманию естественного языка. Модель распространяется в формате safetensors по лицензии Apache-2.0. Указанные результаты бенчмарков не гарантируют качество для конкретных задач; README не описывает целевые языки и отдельные специализированные области применения.

Dazzling-Star-Aurora-32b-v0.0-Experimental-1130 — текстовая разговорная модель на 32 млрд параметров, созданная автором карточки слиянием моделей EVA-Qwen2.5-32B-v0.2 и Qwen2.5-32B-ArliAI-RPMax-v1.3 на базе Qwen2.5-32B. Для объединения применён метод TIES; веса представлены в формате safetensors, а карточка описывает шаблон диалога ChatML. Модель предназначена для генерации текста в диалогах и других сценариях, где нужны ответы на запросы пользователя. Метаданные указывают контекстное окно до 131072 токенов, а также интерфейс для вызова инструментов. В карточке автор отмечает, что создал слияние как личный эксперимент и предлагает попробовать модель, но не приводит результатов оценки качества. Условия использования определяются лицензией базовой модели и компонентов слияния; в предоставленных данных лицензия не указана.

DeciLM-7B — авторегрессионная языковая модель для генерации текста, разработанная компанией Deci. Это предварительно обученная плотная модель с архитектурой Transformer decoder и 7,04 млрд параметров; метаданные репозитория указывают 7,9 млрд параметров. Архитектура создана с помощью AutoNAC и использует переменное число голов Grouped-Query Attention по слоям для сочетания качества и скорости. Длина контекста составляет 8192 токена. Модель предназначена для генерации текста на английском языке, коммерческого и исследовательского применения, а также для дообучения под различные задачи и языки. Карточка сообщает о высоких результатах среди базовых моделей класса 7B на Open LLM Leaderboard и высокой пропускной способности; доступен отдельный instruct-вариант для диалогового использования. Модель принимает текст и генерирует текст. Качество и поведение на других языках и в разных сценариях требуют отдельной проверки: оценивание проводилось преимущественно на английском языке. Выводы могут быть неточными, предвзятыми или нежелательными, поэтому перед внедрением необходимы тестирование и настройка под конкретное применение. Лицензия — Apache 2.0.

bartowski/deepcogito_cogito-v1-preview-llama-8B-GGUF — это GGUF-квантизированная версия языковой модели cogito-v1-preview-llama-8B, разработанной deepcogito. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Модель содержит 8 миллиардов параметров и распространяется в формате GGUF с вариантами точности от BF16 до различных Q- и IQ-квантизаций. Доступны файлы размером примерно от 3,8 до 16,1 ГБ; варианты Q6_K и Q6_K_L обозначены как обеспечивающие качество, близкое к исходному, а Q4_K_M рекомендован как стандартный компромисс между качеством и размером. Для работы предусмотрен формат prompt с системными и пользовательскими сообщениями в стиле Llama 3.1. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска и снижение требований к памяти по сравнению с полноразмерными весами. Более компактные варианты экономят оперативную память, но могут уступать по качеству менее сжатым версиям; конкретные поддерживаемые языки, размер контекста, мультимодальные возможности и результаты бенчмарков в README не указаны. Лицензия обозначена как llama3.1.

bartowski/deepcogito_cogito-v1-preview-qwen-14B-GGUF — это квантизированная версия языковой модели cogito-v1-preview-qwen-14B, разработанной deepcogito. Модель предназначена для генерации текста и поставляется в формате GGUF для запуска через llama.cpp, LM Studio и другие совместимые проекты. Для работы используется шаблон диалога с ролями system, user и assistant. Доступны варианты от BF16 до низкобитных квантований Q8, Q6, Q5, Q4, Q3 и IQ. Версии с более высокой разрядностью обеспечивают качество, близкое к исходной модели, но требуют больше памяти; варианты Q4 и Q3 уменьшают требования к ресурсам ценой снижения качества и подходят для локального запуска при ограниченном объёме ОЗУ. Размер базовой модели составляет 14 млрд параметров, однако сведения о поддерживаемых языках, длине контекста и мультимодальности в README не указаны. Квантизация выполнена bartowski с использованием imatrix и llama.cpp. Модель распространяется по лицензии Apache-2.0.

DeepSeek-V4-Flash-0731-ds4-GGUF — набор квантизированных сборок финальной версии DeepSeek-V4-Flash от DeepSeek, подготовленных пользователем nazeshinjite для инференс-движка DwarfStar (ds4), разработанного antirez. Модель предназначена для локальной генерации текста, диалоговых приложений, программирования и агентских сценариев; поддерживаются интерактивный CLI, OpenAI- и Anthropic-совместимый HTTP API, а также дисковый KV-кэш для многошаговых сессий. Базовая модель использует архитектуру Mixture-of-Experts: около 284 млрд параметров, из которых примерно 277 млрд приходятся на маршрутизируемые эксперты. Репозиторий содержит смешанную Q2/Q4-сборку размером 90,9 GiB, плоские Q2- и Q4-варианты, а также опциональные draft head для speculative decoding. В основной сборке маршрутизируемые эксперты в последних слоях используют Q4_K, остальные — преимущественно 2-битные форматы, а attention-проекции, общие эксперты и выходной слой — Q8. Указана поддержка контекста до 1 млн токенов на подходящем локальном оборудовании; для 256K контекста заявлено потребление менее 3,5 GiB KV-кэша. Языки и мультимодальные возможности в README не указаны. Сильные стороны модели — существенное уменьшение размера при сохранении качества, высокая скорость декодирования в DwarfStar и эффективная работа с длинными повторяющимися контекстами благодаря дисковому KV-кэшу. На Apple M5 Max автор README сообщает скорость 36,8–27,1 токена в секунду в зависимости от длины контекста, однако эти результаты относятся к предварительным измерениям. Главные ограничения — файлы совместимы только с DwarfStar и не загружаются в llama.cpp, Ollama или LM Studio; для запуска требуется специализированный движок и мощное оборудование, включая системы с большим объёмом памяти, CUDA или ROCm. Распространение указано по лицензии MIT.

DeepSeek-V4-Flash-0731-GGUF — это квантизированная версия языковой модели DeepSeek-V4-Flash-0731, разработанной deepseek-ai и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель предназначена для генерации текста и запуска локально через llama.cpp и совместимые приложения, включая LM Studio, KoboldCpp и Text Generation Web UI. Модель содержит 284 млрд параметров, поддерживает текстовый ввод и поставляется только в формате MXFP4. Доступен вариант размером около 156,38 ГБ, сохраняющий исходное качество квантизации. В модели предусмотрены веса MTP (Multi-Token Prediction) в виде отдельной DSpark draft-модели, которую можно использовать для speculative decoding и ускорения генерации. Языки, максимальная длина контекста и дополнительные модальности в README не указаны. К сильным сторонам относятся большой размер модели, сохранение исходного качества MXFP4 и возможность ускорения вывода с помощью DSpark. Ограничения включают очень высокие требования к дисковому пространству и аппаратным ресурсам, отсутствие imatrix-калибровки на момент публикации и неопределённость стандартного chat template, который может быть задан некорректно. Модель распространяется по лицензии MIT.

DeepSeek V4 Flash — это квантизированная GGUF-версия базовой модели DeepSeek-AI DeepSeek-V4-Flash, подготовленная antirez для инференс-движка ds4. Модель предназначена для генерации текста и работы с англоязычными запросами, включая локальный запуск на системах с Apple Silicon и поддержкой Metal. Модель использует архитектуру Mixture-of-Experts (MoE). Доступны варианты с квантизацией routed experts в форматах 2-bit IQ2_XXS/Q2_K и 4-bit Q4_K, при этом важные компоненты, включая attention projections, shared experts, output head и router, сохранены в менее агрессивных форматах Q8_0, F16 или F32. Размер основных файлов составляет около 80,8 ГиБ для q2 и 153,3 ГиБ для q4. Дополнительный файл MTP размером 3,6 ГиБ обеспечивает поддержку speculative decoding и не является самостоятельной моделью. Сильной стороной сборки является уменьшение размера за счёт агрессивной квантизации экспертных блоков при сохранении точности маршрутизации и ряда ключевых компонентов. Вариант q2 рассчитан на компьютеры с 128 ГиБ оперативной памяти, а q4 — на системы с объёмом памяти от 256 ГиБ. Сборка может работать с другими инференс-движками, но гарантируется прежде всего совместимость с ds4; MTP требует специального загрузчика. В README приведён пример запуска с контекстом до 100000 токенов, однако максимальный контекст самой модели явно не указан. GGUF-файлы распространяются по лицензии MIT; авторские права на базовую модель принадлежат DeepSeek, а распространение квантизированных файлов осуществляется на условиях релиза базовой модели.

ECE-TW3-JRGL-V1 — текстовая модель, созданная Луи Гарсией и Матьё Жолларом, студентами инженерной школы ECE, под руководством преподавателя ECE и руководителей TW3 Partners. Модель получена слиянием ShinojiResearch/Senku-70B-Full и 152334H/miqu-1-70b-sf методом SLERP с помощью mergekit; в конфигурации указана базовая модель 152334H/miqu-1-70b-sf. Это плотная Llama-совместимая архитектура LlamaForCausalLM с 68,7 млрд параметров и контекстом до 32 764 токенов. Репозиторий содержит веса safetensors. Модель предназначена для генерации текста и диалогового взаимодействия. В README приведён результат 83,07 на EQ-Bench V2, бенчмарке эмоционального интеллекта для больших языковых моделей. Лицензия — Apache 2.0. Данные не описывают языковую специализацию и ограничения по качеству или применению модели.

jaspionjader/ek-3 — слитая автором модель семейства Llama, созданная методом Model Stock с помощью mergekit на основе jaspionjader/ek-1 и с участием ещё четырёх моделей: Kosmos-EVAA-Franken-Immersive-v39-8B, ek-2, Kosmos-EVAA-Franken-Immersive-v41-8B и bbb-6. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и доступна в формате safetensors. Она предназначена для генерации текста и диалогового общения. Поддерживает контекст длиной до 131 072 токенов; в карточке указаны возможности chat и библиотека Transformers. Метаданные не приводят сведений о специализированной предметной области или поддерживаемых естественных языках. Лицензия в предоставленных данных не указана.

Dohyeon1/ERNIE-HC-SMoE-ngroups40 — языковая модель для генерации текста, опубликованная пользователем Dohyeon1 на Hugging Face. По метаданным она использует архитектуру семейства ERNIE 4.5 MoE и предназначена для работы через библиотеку Transformers. В карточке не приведены сведения о разработчике исходной архитектуры, обучающих данных и точной конфигурации модели.

EVA-Qwen2.5-32B-v0.0-GGUF — это текстовая генеративная модель на базе EVA-Qwen2.5-32B-v0.0, разработанной EVA-UNIT-01. Представлена в формате GGUF и предназначена для локального запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель ориентирована на диалоговую генерацию текста, следование инструкциям, написание текстов и roleplay-сценарии. Модель содержит 32 миллиарда параметров; точная архитектура, размер контекста и перечень поддерживаемых языков в README не указаны. Доступны варианты от F16 до различных уровней квантования Q8, Q6, Q5, Q4 и Q3, включая imatrix-квантизации. Более крупные варианты обеспечивают лучшее качество, а компактные требуют меньше оперативной памяти, но могут заметнее терять в качестве. Некоторые варианты оптимизированы для ARM и требуют поддержки SVE или i8mm; они не предназначены для Mac или Windows. Квантизацию выполнил bartowski с использованием llama.cpp и imatrix. Модель распространяется по лицензии Apache-2.0. README не содержит результатов бенчмарков, поэтому фактическое качество в конкретных задачах следует оценивать отдельно.

Everyone-LLM-7b-Base — базовая языковая модель из серии EveryoneLLM, созданная сообществом и опубликованная rombodawg. Это объединённая модель на архитектуре Mistral с 7,1 млрд параметров, предназначенная для генерации текста и выполнения инструкций в шаблоне Alpaca. В карточке приведены результаты тестов Open LLM Leaderboard, включая задачи на рассуждение и здравый смысл. Модель принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. README сообщает о слиянии множества дообученных моделей сообщества, но не приводит их названия, поэтому базовые компоненты установить нельзя. Лицензия в метаданных обозначена как unknown; условия использования следует уточнить у автора перед применением.