II.1Анализ требований и архитектура ПО

APEX-I-MiniPlus-V2.1 — это пользовательская квантизированная сборка модели XYZ-Aquila-mini от IsValorum в формате GGUF. Она предназначена для диалоговой генерации текста и рассуждений, в том числе для локального запуска с использованием системной RAM или частичной выгрузки на GPU. В README заявлены архитектура Mixture-of-Experts с 40 слоями и 256 микроэкспертами, файл размером около 14,75 ГБ, средний размер 3,40 бита на вес и поддержка контекста до 256 тысяч токенов; эти характеристики приведены автором сборки.

nxn1231/yi6 — текстовая генеративная модель семейства Yi, основанная на 01-ai/Yi-6B. Модель разработана на базе открытой модели 01.AI и использует плотную архитектуру LlamaForCausalLM; в репозитории представлены веса PyTorch в формате Safetensors. Размер составляет 5,8 млрд параметров, контекст — до 4096 токенов. Лицензия — MIT. Модель предназначена для генерации текста на английском и китайском языках, понимания языка, рассуждений на основе здравого смысла и ответов на вопросы по прочитанному. Её можно применять для диалога, написания и продолжения текстов, а также для прототипирования приложений на базе LLM. README сообщает, что семейство обучалось на многоязычном корпусе объёмом 3 трлн токенов, но конкретные показатели качества этой копии отдельно не приводятся.

grimjim/zephyr-beta-wizardLM-2-merge-7B — объединённая языковая чат-модель на основе Mistral, созданная автором репозитория с помощью mergekit. Она сочетает модели HuggingFaceH4/zephyr-7b-beta и lucyknada/microsoft_WizardLM-2-7B методом SLERP с параметром смешивания 0,5. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат safetensors; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста в диалоге, ответов на вопросы, выполнения инструкций, рассуждений и создания повествовательного текста. Карточка описывает слияние как эксперимент по изучению влияния объединения моделей на рассуждения и генерацию историй. Основное описание базовой модели указывает на англоязычную чат-модель, поэтому английский — единственный язык, подтверждённый имеющимися сведениями. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результатов сравнительной оценки качества; как у генеративной языковой модели, ответы могут содержать ошибки или вымышленные сведения.

Это текстовая авторегрессионная модель семейства Qwen2 с плотной архитектурой Qwen2ForCausalLM и 7,1 млрд параметров. Репозиторий содержит контрольную точку в стандартном формате Hugging Face Transformers и safetensors; в README она обозначена как резервная копия исследовательского артефакта. Модель предназначена для генерации текста и диалогового взаимодействия. Метаданные указывают контекст до 131 072 токенов, а также интерфейс для вызова инструментов. Данных о специализированной предметной области или поддерживаемых естественных языках в карточке нет. Условия лицензии в доступных данных не приведены, поэтому условия использования определить нельзя. Поскольку чекпойнт назван резервной копией исследовательского артефакта, его практическое качество и пригодность для развертывания не подтверждены.

32B-Qwen2.5-Kunou-v1-GGUF — это набор квантизированных моделей для генерации текста, созданный пользователем bartowski на основе Sao10K/32B-Qwen2.5-Kunou-v1. Модель предназначена для диалогов и других сценариев текстовой генерации; в README приведён шаблон промпта в формате ChatML с ролями system, user и assistant. Модель имеет размер 32B параметров и поставляется в формате GGUF для запуска через llama.cpp и совместимые приложения, включая LM Studio. Доступны варианты от F16 до низкоразрядных Q2 и IQ-квантизаций объёмом примерно от 13 до 66 ГБ. Старшие варианты сохраняют более высокое качество, а младшие требуют меньше оперативной памяти, но могут заметно уступать по качеству; для большинства сценариев рекомендуются варианты Q4_K_M, Q5 или Q6. Сведения о поддерживаемых языках, максимальном контексте и мультимодальности в README не указаны. К преимуществам относятся широкий выбор квантизаций, возможность локального запуска и использование imatrix-квантизации, направленной на сохранение качества. Ограничения зависят от выбранного варианта и доступных аппаратных ресурсов; низкоразрядные сборки имеют более низкое качество, а полноразмерная F16-версия требует значительного объёма памяти. Лицензия указана как qwen и other; в README приведена ссылка на лицензию Qwen/Qwen2.5-32B-Instruct.

bhenrym14/airoboros-33b-gpt4-1.4.1-lxctx-PI-16384-fp16 — текстовая модель семейства LLaMA, созданная bhenrym14 на основе Airoboros 33B GPT4 1.4.1. Это дообучение QLoRA на синтетических данных Airoboros GPT4 1.4.1 с дополнительным предварительным обучением на последовательностях длиной 8192 токена и RoPE-масштабированием для расширения контекста. Модель содержит 32,3 млрд параметров и использует формат safetensors; метаданные указывают нативный контекст 2048 токенов, а в карточке заявлена теоретическая длина до 16384 токенов. Модель предназначена для диалоговых ответов, ответов по предоставленному контексту, генерации кода, ролевого общения, шуток и загадок. В README приведены примеры кода на десяти языках программирования, но естественные языки обучения или поддержки не указаны. По тестам на perplexity автор сообщает улучшение относительно модели Airoboros 33B PI-8192 на проверенных длинах 512–2048 токенов; поведение при длине контекста свыше 8192 токенов не проверено. Для запуска карточка описывает использование Transformers либо GPTQ-весов через text-generation-webui и ExLlama с настройками max_seq_len=16384 и compress_pos_emb=8. Лицензия в предоставленных данных не указана. В исходной карточке сказано, что модель не отказывает в ответах независимо от законности или моральной приемлемости запроса, поэтому её ответы требуют соответствующего контроля.

airoboros-mpt-30b-gpt4-1p4-five-epochs — языковая модель на архитектуре MPT-30B, дообученная автором карточки методом QLoRA на наборе airoboros-gpt4-1.4 в течение пяти эпох. Она предназначена для генерации ответов в диалогах и инструктивных сценариях, включая вопросы по предоставленному контексту, помощь с программированием, письмо, викторины и ролевые диалоги. В обучающие данные также вошли примеры кода на десяти языках программирования. Модель использует формат запросов Airoboros, близкий к Vicuna, и поддерживает генерацию текста. Автор отмечает, что в собственных разовых проверках качество оказалось ниже, чем у вариантов на Llama-33B; также README предупреждает о возможной ошибке в накоплении градиентов при обучении. Репозиторий содержит веса PyTorch. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.

Virtuoso-Large-GGUF — это набор квантизированных версий языковой модели Virtuoso-Large, разработанной arcee-ai и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Для общения используется шаблон сообщений в формате ChatML с ролями system, user и assistant. Модель доступна в формате GGUF с различными вариантами квантизации от Q8_0 до Q2_K и IQ2_M. Размер файлов составляет примерно от 29,34 до 77,26 ГБ; более высокие уровни квантизации обычно обеспечивают лучшее качество, но требуют больше памяти. В README не указаны точный размер исходной модели, архитектурные детали, поддерживаемые языки, длина контекста или мультимодальные возможности. Сильной стороной набора является широкий выбор вариантов для разных ограничений по памяти и производительности. Рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; версии с более низкой квантизацией экономичнее, но могут заметно уступать по качеству. Лицензия обозначена как qwen и связана с лицензией Qwen2.5-72B-Instruct, однако точные условия следует проверять в указанном лицензионном документе.

BitNet b1.58 2B4T — языковая модель для генерации текста, разработанная Microsoft Research. Она предназначена для диалоговых сценариев, следования инструкциям и работы с текстом и кодом. Модель обучена на 4 триллионах токенов и содержит около 2 миллиардов параметров; заявленный язык — английский. Модель построена на архитектуре Transformer с модифицированными BitLinear-слоями, RoPE, активацией ReLU² в FFN и нормализацией subln. Она обучена с нуля с использованием нативной схемы квантования W1.58A8: веса принимают тернарные значения {-1, 0, +1}, а активации квантуются до 8 бит. Максимальная длина контекста составляет 4096 токенов, используется токенизатор LLaMA 3 с размером словаря 128 256 токенов. Обучение включало предварительное обучение, supervised fine-tuning и DPO. Ключевое преимущество модели — потенциальное снижение требований к памяти, энергопотреблению и задержке благодаря нативным 1,58-битным весам. Однако эти преимущества раскрываются только при использовании специализированной реализации bitnet.cpp; стандартный запуск через transformers не обеспечивает ожидаемого прироста эффективности и может быть сопоставим по скорости и энергопотреблению с полноточными моделями. Представленная BF16-версия предназначена главным образом для обучения и дообучения, а не для развертывания. Модель распространяется по лицензии MIT.

ByteDance-Seed_Seed-OSS-36B-Instruct-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Seed-OSS-36B-Instruct, разработанной ByteDance-Seed. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в локальных приложениях, совместимых с llama.cpp, включая LM Studio. Доступны варианты от BF16 до различных форматов Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Размеры файлов составляют примерно от 16,50 до 72,31 ГБ. В README не указаны архитектура, поддерживаемые языки, контекстное окно, мультимодальность и точные сценарии применения исходной модели. Для вариантов с более сильным сжатием ожидается снижение качества, тогда как Q6 и Q5 позиционируются как высококачественные, а Q4 — как практичный компромисс для большинства случаев. Модель удобна для локального инференса на совместимом оборудовании, однако требует значительных ресурсов, особенно в вариантах BF16 и высоких разрядностей. Формат лицензии в README не указан; условия использования следует уточнять на странице исходной модели ByteDance-Seed/Seed-OSS-36B-Instruct.

Chronorctypus-Limarobormes-13b — объединённая инструкциями дообученная языковая модель от chargoddard. Она создана слиянием пяти моделей на базе TheBloke/Llama-2-13B-fp16 по методике Resolving Interference When Merging Models, чтобы сохранить больше возможностей исходных моделей, чем при обычном линейном слиянии. Модель построена на плотной архитектуре Llama, содержит 12,9 млрд параметров и рассчитана на контекст до 4096 токенов. Модель предназначена для генерации ответов и выполнения инструкций в формате Alpaca: запрос передаётся в секции Instruction, ответ начинается после Response. В README автор сообщает, что модель показалась ему достаточно способной, и приводит результаты оценки на наборе тестов Open LLM Leaderboard. Модель использует формат safetensors. README не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

Clarus-7B-v0.1 — языковая модель на архитектуре Qwen2, созданная методом SLERP merge из gz987/qwen2.5-7b-cabs-v0.3 и gz987/qwen2.5-7b-cabs-v0.4. Разработчик объединил предварительно обученные модели с помощью mergekit; число параметров составляет 7,1 млрд, контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогового общения на английском языке. Метаданные также отмечают интерфейс вызова инструментов. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH, но они не гарантируют качество на конкретных задачах. Модель распространяется по лицензии MIT.

CleverQwen2-1.5B — объединённая языковая модель на архитектуре Qwen2, созданная автором trollek с помощью mergekit методом Model Stock. В основу слияния взята trollek/Qwen2-1.5B-Instruct-Abliterated; также объединены cognitivecomputations/dolphin-2.9.3-qwen2-1.5b, M4-ai/Hercules-5.0-Qwen2-1.5B и Replete-AI/Replete-Coder-Qwen2-1.5b. Модель содержит 1,5 млрд параметров, использует формат safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия на английском языке; объединение моделей включает варианты общего назначения и для программирования. Автор сообщает, что при слиянии число параметров выросло примерно на 300 млн и что модель работает ожидаемым образом, но подробные оценки качества не приводит. Лицензия — Apache-2.0.

Это версия Command A+ в формате GGUF BF16, опубликованная DevQuasar на основе CohereLabs/command-a-plus-05-2026-bf16. Модель предназначена для генерации текста и диалогового общения; метаданные каталога также характеризуют её как модель для чата. Базовая Command A+ описана как многоязычная мультимодальная модель Cohere для диалогов, рассуждений и агентных задач с текстом, изображениями и вызовом инструментов. Однако карточка этой версии не подтверждает, что её сборка GGUF сохраняет работу с изображениями или вызов инструментов, поэтому эти возможности нельзя считать гарантированными. Репозиторий содержит вариант GGUF в точности BF16. README называет его квантованной версией, но метаданные указывают BF16, что само по себе не подтверждает уменьшенную разрядность. Сведения о лицензии и ограничениях использования в предоставленных данных отсутствуют.

Citaman/command-r-15-layer — текстовая модель, созданная с помощью mergekit из двух срезов модели Citaman/command-r-16-layer методом SLERP. В конфигурации объединения использованы слои [0, 15] и [1, 16] одной базовой модели; веса сохранены в формате safetensors, тип данных — bfloat16. Модель построена на архитектуре CohereForCausalLM и содержит 14,4 млрд параметров. Она предназначена для генерации текста и диалогов, включая сценарии с интерфейсом вызова инструментов. Контекст составляет до 8192 токенов. В карточке нет сведений о конкретных языках и специализированных прикладных областях. Модель может быть полезна для диалоговых приложений и генерации текста с подключением инструментов. Поскольку это объединение срезов одного чекпойнта, README не сообщает о сравнительных оценках качества или специальных улучшениях. Лицензия в предоставленных данных не указана.

Citaman/command-r-7-layer — языковая модель для генерации текста, опубликованная пользователем Citaman. Это плотная причинно-языковая модель семейства Cohere с 7,9 млрд параметров; репозиторий содержит веса в формате safetensors и создан с помощью mergekit методом SLERP на основе Citaman/command-r-8-layer. По метаданным модель рассчитана на диалог и интерфейс вызова инструментов; контекст составляет 8192 токена. Подходит для генерации ответов в чат-ботах и для сценариев, где языковая модель взаимодействует с инструментами. Модель принимает текст и генерирует текст. README описывает объединение с перекрывающимися диапазонами слоёв одной базовой модели. В предоставленных материалах нет сведений о лицензии и поддерживаемых естественных языках, поэтому условия коммерческого использования и языковые возможности определить нельзя.

Kaballas/Cyber13 — языковая модель Kaballas, дообученная на Kaballas/Cyber8. Это плотная модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Модель поддерживает контекст длиной до 131072 токенов и имеет интерфейс для вызова инструментов. Модель хранится в формате PyTorch и распространяется по лицензии Apache-2.0. В README указано, что при обучении использовались Unsloth и библиотека TRL; заявлено ускорение обучения вдвое. Карточка не описывает специализацию или результаты оценки качества, поэтому пригодность для конкретных задач следует проверять самостоятельно.

Aleteian/DarkCamelot — объединённая модель генерации текста на базе семейства Mistral, созданная автором репозитория с помощью mergekit. В слиянии использован метод della; базой указана win10/Mistral-Nemo-abliterated-Nemo-Pro-v2, также объединены восемь других языковых моделей. Размер модели — 12,1 млрд параметров, формат весов — SafeTensors; для работы заявлен контекст до 1 024 000 токенов. Модель предназначена для диалогов и генерации текста. Метаданные также отмечают интерфейс вызова инструментов. В карточке нет сведений о специальной отраслевой специализации или подтверждённом наборе языков, поэтому их нельзя приписывать модели на основании описания базовых компонентов. Это экспериментальное слияние нескольких моделей; качество и поведение могут отличаться от каждого исходного чекпойнта, а заявленный размер контекста не гарантирует одинаковую производительность на всей длине. Условия лицензирования в предоставленных данных не приведены.

DeepSeek-R1-Distill-Qwen-14B-3MPER0RR-abliterated — экспериментально изменённая версия DeepSeek-R1-Distill-Qwen-14B от 3MPER0RR. Это плотная 14-миллиардная языковая модель на архитектуре Qwen2 для диалогов и генерации текста; в карточке указано, что модель протестирована и сохранена. Она унаследовала от базовой модели поддержку рассуждений, в том числе для математических и программных задач, и контекст до 131 072 токенов. Модель рассчитана на разговорное взаимодействие и текстовые запросы. README описывает её как модифицированную, «abliterated» экспериментальную версию, но не уточняет метод изменения и не приводит результатов сравнительных оценок, поэтому нельзя установить, как оно повлияло на качество и поведение. Лицензия — MIT.

bartowski/DeepSeek-R1-Distill-Qwen-32B-GGUF — набор GGUF-квантизированных версий модели DeepSeek-R1-Distill-Qwen-32B, разработанной DeepSeek и подготовленной bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения, включая LM Studio. Доступны варианты от BF16 до низкобитных Q3 и IQ3, а также Q4, Q5, Q6 и Q8. Размер файлов составляет примерно от 13,71 до 65,54 ГБ. Версии с более высокой точностью обычно обеспечивают лучшее качество, но требуют больше оперативной или видеопамяти; варианты Q4 и Q5 предлагают компромисс между качеством и потреблением ресурсов, а Q3 рассчитаны на системы с ограниченным объёмом памяти. Квантизация выполнена с использованием imatrix и llama.cpp release b4514. Это текстовая модель, однако README не содержит достоверных сведений о поддерживаемых языках, размере контекстного окна, точной архитектуре исходной модели, результатах оценки или специализированных сценариях применения. Лицензия в предоставленных данных также не указана. Для работы следует использовать рекомендованный формат prompt с системным сообщением, запросом пользователя и ответом ассистента.

Baekpica/DeepSeek-V4-Flash-0731-120B-REAM-104E-NVFP4 — текстовая генеративная модель, разработанная Baekpica на основе Baekpica/DeepSeek-V4-Flash-0731-120B-REAM-104E-BF16. Модель предназначена для генерации текста и инференса с использованием vLLM, включая сценарии локального и серверного развертывания на совместимом оборудовании NVIDIA. Архитектура представляет собой Mixture-of-Experts: 43 декодерных слоя, 104 маршрутизируемых эксперта на слой, top-6 маршрутизация и около 13,802 млрд активных параметров на токен при примерно 119,822 млрд логических параметров основной модели. Это преимущественно весово-квантизированная версия NVFP4A16: основные подходящие веса представлены в NVIDIA FP4 E2M1 с размером группы 16, тогда как активации остаются 16-битными. Отдельные компоненты сохраняются в BF16, а некоторые attention-проекции используют динамический W8A8 FP8. В README указана поддержка контекста до 196 608 токенов в проверенной конфигурации запуска. Информация о языках и мультимодальных возможностях не приведена. Ключевое преимущество модели — существенное сокращение требований к памяти при сохранении архитектуры крупной MoE-модели и оптимизация для инференса на NVIDIA Blackwell или более новых GPU. Ограничения включают зависимость от аппаратуры с поддержкой compressed-tensors NVFP4 и от специализированного стека, включая совместимую ветку vLLM и FlashInfer; универсальная совместимость с обычным Transformers или более старым оборудованием не заявлена. Модель распространяется по лицензии MIT.

DeepSeek-V4-Flash-0731-2.4bit-mixed — это смешанно-точечная MLX-квантизованная версия модели DeepSeek-V4-Flash-0731, разработанная сообществом mlx-community на основе чекпойнта deepseek-ai. Модель предназначена для генерации текста, диалоговых сценариев и задач рассуждения; формат ориентирован на запуск на компьютерах Apple Silicon через oMLX. Модель имеет 284 млрд параметров, около 304 млрд с учётом блоков MTP и примерно 13,8 млрд активных параметров на токен. Архитектура включает 43 слоя, MoE с 256 маршрутизируемыми и одним общим экспертом, выбором top-6, MLA, разреженный индексатор внимания, hyper-connections с Sinkhorn и YaRN с заявленным контекстом до 1 млн токенов. Все три блока DSpark MTP сохранены. Эффективная точность составляет 2,44 бита на вес, размер на диске — 92,8 ГБ. Основные языки явно не указаны; в проверке генерация была связной на английском. Сильные стороны — существенно меньший размер по сравнению с исходным форматом, сохранение MTP, умеренное падение скорости генерации при увеличении контекста и низкий рост потребления памяти благодаря MLA. Ограничения — высокая потребность в памяти: для запуска рекомендуется Mac с 128 ГБ, а предварительная обработка длинных запросов может быть очень медленной. По тесту MMLU-Pro результат составил 0,573 против 0,647 у API-версии в BF16, однако оценка ограничена одной выборкой и не заменяет проверку на целевых задачах. Требуется oMLX версии 0.5.7 или новее; mlx-lm напрямую эту архитектуру не поддерживает. Лицензия — MIT.

Devlin Alpha 22B A3B — экспериментальная текстовая языковая модель от Devlin-AI, основанная на Qwen3.6-35B-A3B и распространяемая в формате GGUF. Модель ориентирована на агентские сценарии и задачи, требующие рассуждений; в метаданных также указаны MoE-архитектура и pruning экспертов. Модель предназначена для локального запуска через llama.cpp и совместимые инструменты, включая Ollama, LM Studio, KoboldCpp и text-generation-webui с бэкендом llama.cpp. Указан размер 22B с конфигурацией A3B, поддерживаются режимы с рассуждениями и без них. Это текстовая модель без MTP-головы; для корректного применения шаблона чата Qwen3.6 при использовании llama.cpp требуется включать параметр jinja. В примере запуска указан контекст до 262144 токенов. К сильным сторонам относятся специализация на агентских задачах, поддержка локального инференса и возможность использования в режимах с рассуждениями. При этом модель является версией для разработки и тестирования, не рекомендуется для production, а результаты бенчмарков в README отсутствуют. Языки, точные характеристики модальностей помимо текстовой генерации и дополнительные ограничения производительности не указаны. Модель распространяется по лицензии Apache 2.0 как производная работа Qwen3.6-35B-A3B.

MaziyarPanahi/dolphin-2.6-mistral-7b-GGUF — это набор квантованных файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе модели cognitivecomputations/dolphin-2.6-mistral-7b, разработанной cognitivecomputations. Модель предназначена для генерации текста и может использоваться локально через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, LM Studio, GPT4All и llama-cpp-python. Модель относится к семейству Mistral и имеет размер 7B параметров согласно идентификатору базовой модели. Доступны варианты квантования от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством генерации. В метаданных указан английский язык; другие языки, поддерживаемые моделью, размер контекста и мультимодальные возможности не заявлены. Основные преимущества — совместимость с широким набором инструментов для локального запуска и возможность подобрать степень квантования под доступное оборудование. Ограничения связаны с потерями качества при более агрессивном квантовании, а также с отсутствием в предоставленных данных подробных оценок, описания точных сценариев применения и характеристик контекстного окна. Распространение указано по лицензии Apache-2.0.

Dolphin Mistral 24B Venice Edition — разговорная модель общего назначения, созданная в совместном проекте Dolphin и Venice.ai на основе Mistral-Small-24B-Instruct-2501. Это плотная модель семейства Mistral 3 с 24 млрд параметров, представленная в формате safetensors и рассчитанная на работу через Transformers; для развёртывания авторы рекомендуют vLLM. Модель предназначена для диалогов и выполнения инструкций в приложениях, где владелец задаёт системный промпт и самостоятельно определяет стиль и правила ответов. Авторы позиционируют её как менее ограниченную настройками поведения, чем обычные коммерческие чат-модели, и сообщают, что она используется как модель Venice Uncensored. В карточке указан стандартный шаблон чата Mistral; авторы рекомендуют низкую температуру генерации, например 0,15. Модель принимает текст и генерирует текст. README не сообщает поддерживаемые естественные языки и длину контекста. Репозиторий распространяется по лицензии Apache-2.0. Модель ориентирована на управляемое поведение, однако её следование инструкциям зависит от системного промпта и параметров генерации; заявленная сниженная цензура означает, что ответы могут включать потенциально вредный или неподходящий контент.

Карточка модели tiondoubl/Dolphin-Mistral-24B-Venice-Edition на Hugging Face совпадает с карточкой dphn/Dolphin-Mistral-24B-Venice-Edition, поэтому описание составлено по ней. Dolphin Mistral 24B Venice Edition — разговорная модель общего назначения, созданная в совместном проекте Dolphin и Venice.ai на основе Mistral-Small-24B-Instruct-2501. Это плотная модель семейства Mistral 3 с 24 млрд параметров, представленная в формате safetensors и рассчитанная на работу через Transformers; для развёртывания авторы рекомендуют vLLM. Модель предназначена для диалогов и выполнения инструкций в приложениях, где владелец задаёт системный промпт и самостоятельно определяет стиль и правила ответов. Авторы позиционируют её как менее ограниченную настройками поведения, чем обычные коммерческие чат-модели, и сообщают, что она используется как модель Venice Uncensored. В карточке указан стандартный шаблон чата Mistral; авторы рекомендуют низкую температуру генерации, например 0,15. Модель принимает текст и генерирует текст. README не сообщает поддерживаемые естественные языки и длину контекста. Репозиторий распространяется по лицензии Apache-2.0. Модель ориентирована на управляемое поведение, однако её следование инструкциям зависит от системного промпта и параметров генерации; заявленная сниженная цензура означает, что ответы могут включать потенциально вредный или неподходящий контент.

unsloth/dots.llm1.inst-GGUF — GGUF-версия instruction-tuned модели dots.llm1.inst, разработанной командой rednote-hilab и подготовленной в формате GGUF проектом Unsloth. Это большая разреженная Mixture-of-Experts (MoE) языковая модель для генерации текста и диалоговых сценариев, включая работу в локальных средствах инференса, совместимых с GGUF. Модель предназначена для общения, ответов на вопросы и других задач обработки текста на английском и китайском языках. Модель содержит 142 млрд параметров, из которых при инференсе активируется 14 млрд. Архитектура включает 62 слоя, 32 attention heads, Multi-head Attention с QK-Norm, а также fine-grained MoE с выбором 6 из 128 маршрутизируемых экспертов и двумя общими экспертами. Контекстное окно составляет 32 768 токенов. Instruction-тюнинг выполнен после этапа предварительного обучения; при предварительном обучении использовались высококачественные данные без синтетических токенов. К сильным сторонам относятся сочетание возможностей крупной модели с меньшим числом активных параметров, потенциальная вычислительная эффективность MoE и открытость исходной модели. README не указывает конкретный метод или уровень GGUF-квантизации, поэтому характеристики качества, размера файла и требований к памяти для данной сборки определить нельзя. Для llama.cpp требуется включить параметр --jinja, чтобы корректно обрабатывался системный промпт. Лицензия модели — MIT.

nbeerbower/EVA-Gutenberg-Rombos-slerp-Qwen2.5-32B — объединённая языковая модель на архитектуре Qwen2.5, созданная разработчиком nbeerbower методом SLERP с помощью mergekit из EVA-Gutenberg3-Qwen2.5-32B и Rombos-Qwen2.5-32B-lorablated. Это плотная авторегрессионная модель с 32 млрд параметров и контекстом до 131 072 токенов; она предназначена для генерации текста и диалогов, включая сценарии с интерфейсом вызова инструментов. Модель принимает текст и выдаёт текст. Карточка описывает способ слияния и состав исходных моделей, но не приводит оценок качества или подробностей о специализации. Доступна по лицензии Apache-2.0.

EXAONE-3.0-7.8B-Instruct-GGUF — набор GGUF-квантизованных версий языковой модели EXAONE-3.0-7.8B-Instruct, разработанной LGAI (LG AI Research) и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через llama.cpp и LM Studio. Заявлены английский и корейский языки. Исходная модель имеет 7,8 млрд параметров; доступны версии от F32 размером 31,28 ГБ до низкобитных вариантов IQ2_M размером 2,83 ГБ. Квантизации Q4–Q6 предлагают компромисс между качеством и требованиями к памяти, а Q3 и Q2 рассчитаны на устройства с ограниченным объёмом RAM, но обеспечивают более низкое качество. Некоторые варианты используют Q8_0 для embedding- и output-весов, что помогает сохранить качество. Формат prompt задан специальными маркерами system, user и assistant. Лицензия указана как EXAONE; подробные условия находятся в файле LICENSE.

Falcon3-10B-Base — базовая предварительно обученная языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Это плотный авторегрессионный трансформер с 9,9 млрд параметров; в карточке архитектура указана как LlamaForCausalLM. Модель принимает текст и генерирует продолжение, поддерживает английский, французский, испанский и португальский языки, а контекстное окно достигает 32 768 токенов. Модель обучалась на данных из веба, кода, STEM и многоязычных источников; в README заявлены результаты в рассуждениях, понимании языка, следовании инструкциям, программировании и математике. Это сырой базовый чекпойнт: для большинства прикладных сценариев его следует дополнительно дообучить, например с помощью SFT или RLHF. Весовые файлы представлены в формате safetensors. Лицензия — TII Falcon-LLM License 2.0; перед использованием следует учитывать её условия.