I.14Автоматизация процессов и AI-агенты

GLM-5.3-Flash-GGUF — квантизированная GGUF-версия модели GLM-5.3-Flash от Z.ai, подготовленная пользователем aj9o9 с ручным распределением типов квантования по классам тензоров. Модель предназначена для генерации текста и запуска через llama.cpp, включая локальное использование на системах с ограниченной памятью по сравнению с полноразмерной BF16-версией. Заявлены языки английский и китайский. Исходная модель имеет 320,6 млрд параметров, из которых 17,3 млрд активируются на токен; после удаления блока MTP/NextN в представленных файлах остаётся 313,33 млрд параметров. Это разреженная MoE-архитектура с 42 слоями маршрутизируемых экспертов, 288 экспертами в каждом слое, восемью активными экспертами и одним общим экспертом. Из 45 слоёв 34 используют Kimi Delta Attention, а 11 — Multi-head Latent Attention с индексатором DeepSeek. Благодаря этому модель экономно расходует память под контекст: заявлены 32K, 131K и 300K токенов при использовании примерно 0,44, 1,55 и 3,45 ГБ памяти для соответствующих KV-компонентов. Доступны две сборки: AJ-IQ3_XXS размером 112,40 ГБ с плотностью 2,80 бит на вес, рассчитанная на 128 ГБ unified memory или видеокарту на 96 ГБ с небольшим выгрузом, и AJ-IQ2_XXS размером 87,35 ГБ с плотностью 2,23 бит на вес, рассчитанная на видеокарту на 24 ГБ и 64 ГБ системной памяти. AJ-IQ3_XXS заметно лучше сохраняет качество исходной модели, тогда как AJ-IQ2_XXS требует меньше памяти, но имеет более высокое отклонение от BF16. Ограничение обеих сборок — отсутствие MTP-головы и поддержки спекулятивного декодирования через неё. Приведённые оценки качества получены на небольшом тесте Wikitext-2, поэтому не характеризуют все прикладные сценарии. Модель распространяется по лицензии MIT.

giladgd публикует модель gpt-oss-20b в формате GGUF для запуска через node-llama-cpp и llama.cpp. Это разговорная текстовая модель генерации на архитектуре семейства GPT-OSS, производная от openai/gpt-oss-20b. Репозиторий содержит варианты MXFP4 и F16; README указывает размер файла MXFP4 12,1 ГБ и F16 13,8 ГБ. Для запуска варианта MXFP4 заявлено потребление памяти в пределах 16 ГБ. Модель предназначена для диалогов, генерации текста и сценариев с агентными возможностями, включая вызов функций и структурированный вывод. README также описывает настройку уровня усилий рассуждения и дообучение под конкретные задачи. Модель поддерживает Apache-2.0, допускающую коммерческое использование. Указанные в карточке возможности не подтверждают качество выполнения конкретных прикладных задач или работу с вебом и Python без соответствующей внешней интеграции.

Hermes-Instruct-7B-v0.2 — диалоговая языковая модель на архитектуре Mistral, созданная lodrick-the-lafted на основе Mistral-7B-Instruct-v0.2 с дообучением на части набора teknium/openhermes в формате Alpaca. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов; для общения подходят шаблоны Mistral-Instruct и Alpaca. Модель предназначена для генерации текста и диалоговых ответов по инструкциям. В карточке приведены результаты оценки на задачах рассуждения и понимания текста, включая AI2 Reasoning Challenge и HellaSwag. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

Abiray/Huihui-Qwythos-9B-Claude-Mythos-5-1M-abliterated-GGUF — набор квантизированных моделей в формате GGUF, созданный Abiray на основе Huihui-Qwythos-9B-Claude-Mythos-5-1M-abliterated от huihui-ai. Базовая модель представляет собой версию Qwythos-9B-Claude-Mythos-5-1M от empero-ai, модифицированную методами abliteration для удаления векторов отказа. Репозиторий также содержит мультимодальные проекционные файлы mmproj для работы с изображениями локально. Модель предназначена для генерации текста, рассуждений и сценариев image-to-text с поддержкой зрения. Заявлены архитектура современного семейства Qwen 3.5, 9 млрд параметров, английский язык и контекст до 1 млн токенов; конкретные возможности зависят от используемой сборки и совместимости с llama.cpp. Доступны варианты квантизации от 3 до 8 бит размером примерно от 4,74 до 9,79 ГБ, включая рекомендуемый компромисс Q4_K_M. Для визуального ввода требуется отдельный проектор mmproj; доступны квантизированный и F16-варианты. К сильным сторонам относятся локальный запуск, широкий выбор квантизации, поддержка длинного контекста и изображений, а также сниженное количество встроенных отказов. Ограничения включают возможную потерю качества при низкой квантизации, требования к свежей версии llama.cpp и необходимость дополнительного проектора для мультимодальной работы. Модель распространяется по лицензии Apache-2.0.

Human-Like-LLama3-8B-Instruct-GGUF — это 8-миллиардная текстовая instruction-модель семейства Llama 3, разработанная HumanLLMs на основе Humanish-LLama3-8B-Instruct. Данная версия опубликована в формате GGUF и квантизирована bartowski с использованием llama.cpp и метода imatrix. Обучение или дообучение модели связано с набором данных humanish-dpo-project и методом DPO. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и иных текстовых сценариях. В README приведены результаты оценивания на IFEval, BBH, MATH, GPQA, MuSR и MMLU-PRO, однако показатели заметно различаются между задачами, поэтому их следует рассматривать как ориентиры, а не гарантию качества в конкретном применении. Мультимодальность, поддерживаемые языки, размер контекстного окна и рекомендуемый формат промптов в карточке не указаны. Доступно несколько вариантов квантизации от F16 до Q3_K_XL. Более высокие варианты обычно лучше сохраняют качество, но требуют больше памяти; Q4_K_M указан как вариант стандартного размера, а Q5 и Q6 — как высококачественные варианты. Ограничения включают отсутствие описания prompt format и неполную информацию о языках, контексте и поведении модели. Лицензия указана как llama3.

internlm2_5-20b-chat-IMat-GGUF — это GGUF-квантизованная версия чат-модели internlm/internlm2_5-20b-chat, подготовленная legraphista с использованием llama.cpp (сборка b3524). Исходная модель имеет формат BF16, а в репозитории доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и более компактных IQ-квантизаций. Некоторые варианты используют IMatrix для калибровки квантования, что рассчитано на более эффективное сохранение качества при уменьшении размера модели. Модель предназначена для локального запуска задач генерации текста и чат-взаимодействия через совместимые инструменты, включая llama.cpp. Доступны файлы размером примерно от 7,55 до 39,73 ГБ, поэтому требования к оперативной или видеопамяти зависят от выбранного варианта. Ключевые характеристики исходной архитектуры, поддерживаемые языки, размер контекста, результаты тестирования и конкретные сильные стороны в README не указаны; качество и скорость также будут зависеть от уровня квантования и оборудования. Лицензия обозначена как other, без дополнительных условий в представленном README.

I-OpenPipe-NH2-Solar-7B-slerp — языковая чат-модель, созданная слиянием OpenPipe/mistral-ft-optimized-1218 и NousResearch/Nous-Hermes-2-SOLAR-10.7B методом slerp с помощью LazyMergekit. Это плотная авторегрессионная модель семейства Llama с 7,1 млрд параметров, предназначенная для генерации текста, диалогов и выполнения инструкций. Модель принимает текст и генерирует текст; метаданные указывают контекст длиной 4096 токенов. Доступны веса в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0. Карточка не содержит результатов оценки качества или подробных сведений о поддерживаемых языках.

JOSIE-1.1-4B-Instruct — плотная языковая модель на 3,7 млрд параметров, разработанная Gökdeniz Gülmez как полновесная донастройка Qwen3-4B-Instruct-2507. Она предназначена для естественных диалогов, следования инструкциям, повседневной помощи и решения практических задач. Модель выдаёт связные ответы с дружелюбной, прямой манерой общения и ориентирована на генерацию текста в чат-сценариях. Модель поддерживает английский, испанский, французский, португальский, итальянский, арабский, китайский, японский, корейский, индонезийский, русский, вьетнамский, немецкий и тайский языки. Метаданные указывают контекст до 262 144 токенов; README сообщает о 32 768 токенах. Обучение включало дистилляцию рассуждений и преобразование ответов в разговорный стиль. По карточке, модель не имеет встроенной фильтрации контента; качество может снижаться на узкоспециализированных темах, а критические ответы требуют проверки. Лицензия — MIT.

J.O.S.I.E.3-Beta10-7B-slerp — чат-модель для генерации текста, созданная слиянием Weyaxi/Einstein-v5-v0.2-7B и argilla/CapybaraHermes-2.5-Mistral-7B методом SLERP с помощью LazyMergekit. Она использует плотную архитектуру Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации ответов на текстовые запросы. Веса опубликованы в формате Safetensors; лицензия — Apache-2.0.

Kai 7B Beta — языковая модель для генерации текста, разработанная Keynote Technology. Данная версия распространяется в формате GGUF и представляет собой квантизированные файлы исходной модели Keynote-Technology/KAI-7B-beta; квантизацию выполнил TheBloke. Модель предназначена для задач текстовой генерации, включая сценарии, связанные с кодом, и может использоваться через llama.cpp и совместимые приложения и библиотеки для локального вывода на CPU и GPU. Из известных характеристик: модель относится к типу Mistral, содержит около 7 миллиардов параметров, поддерживает английский язык и работает только с текстом. Доступны варианты квантизации с разной разрядностью, что позволяет выбирать компромисс между размером файла, требованиями к памяти и качеством генерации. Контекстное окно в предоставленных данных не указано; специальный шаблон промпта отсутствует, используется формат {prompt}. Основные преимущества — наличие вариантов от 2 до 8 бит, поддержка широкого набора локальных инструментов и возможность запуска без облачной инфраструктуры. К ограничениям относятся возможные потери качества из-за квантизации, зависимость производительности от выбранного варианта и оборудования, а также отсутствие данных о целевых бенчмарках и размере контекстного окна. В метаданных указана лицензия Apache-2.0.

KunaiBeagle-Hermes-7b — объединённая языковая модель, созданная seyf1elislam с помощью mergekit методом DARE TIES. В объединение вошли seyf1elislam/KunaiBeagle-7b и teknium/OpenHermes-2.5-Mistral-7B; базовая архитектура — Mistral-7B-v0.1. Модель предназначена для генерации текста и диалоговых сценариев. Она содержит 7,1 млрд параметров, использует архитектуру Mistral с плотной причинной языковой моделью и поддерживает контекст до 32 768 токенов. Репозиторий предоставляет веса в формате safetensors. Карточка не описывает специализированную предметную область или отдельные гарантии качества. Лицензия в предоставленных данных не указана, поэтому условия использования по ним определить нельзя.

L3.3-MS-Evayale-70B-GGUF — GGUF-квантизированная версия модели L3.3-MS-Evayale-70B, разработанной Steelskull и подготовленной bartowski. Это текстовая генеративная модель для запуска локально через llama.cpp и совместимые приложения, включая LM Studio. Модель создана на основе merge-модели, однако подробности об исходных компонентах в README не приведены. Модель имеет около 70 млрд параметров и поддерживает несколько вариантов квантизации: от Q8_0 с максимальным качеством до Q2_K_L с существенной экономией памяти. Доступны форматы Q4, Q5, Q6, Q8, IQ и другие варианты, включая специальные сборки для ARM и AVX. В README указан шаблон промпта с системными и пользовательскими сообщениями, совместимый с форматом Llama 3.3. Модальность — текстовая; сведения о языках и размере контекста не указаны. Сильной стороной модели является широкий выбор квантизаций, позволяющий подобрать баланс между качеством, размером файла и требованиями к памяти; для большинства сценариев автор рекомендует Q4_K_M, Q5 и Q6-варианты. Более компактные сборки подходят для систем с ограниченным объёмом RAM, но обеспечивают более низкое качество. Некоторые варианты оптимизированы для ARM, однако отдельные сборки не рекомендуется использовать на Mac или с GPU. Лицензия в предоставленном README не указана.

LFM2.5-2.6B-Base — предварительно обученная текстовая базовая модель компании Liquid AI из семейства LFM2.5. Она предназначена для дообучения и экспериментов с новыми методами постобучения; среди подходящих сценариев — создание языковых или предметных ассистентов и обучение на собственных данных. Модель рассчитана на локальное и периферийное развертывание и работает с текстом. Архитектура — плотная гибридная LFM2: 30 слоёв, включая 22 блока коротких свёрток с двойным гейтингом и 8 слоёв GQA. В модели 2,6 млрд параметров, словарь размером 128 000 токенов и контекст до 128 000 токенов. Она обучалась на 34 трлн токенов и поддерживает 17 языков: арабский, китайский, английский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, польский, португальский, русский, испанский, тайский и вьетнамский. Модель опубликована в формате Safetensors и поддерживается Transformers. Это базовый чекпойнт, поэтому для готовых ассистентских сценариев может потребоваться существенное дообучение. Лицензия указана как «other»; конкретные условия использования следует сверить с лицензией в репозитории.

Карточка модели prompt-agnostic-language-models/Llama-1B_ties на Hugging Face совпадает с карточкой meta-llama/Llama-3.2-1B, поэтому описание составлено по ней. Meta Llama 3.2 1B — авторегрессионная языковая модель на основе оптимизированной архитектуры Transformer. Это предварительно обученная многоязычная модель с примерно 1,23 млрд параметров; она принимает и генерирует текст, а также может работать с кодом. В карточке указаны контекст до 128 тысяч токенов, Grouped-Query Attention и обучение на смеси общедоступных данных. Модель предназначена для генерации текста и адаптации к различным задачам обработки естественного языка. Её можно использовать для черновиков и продолжения текста, перефразирования запросов, краткого изложения и диалоговых приложений после соответствующей настройки. Разработчик — Meta; модель доступна через библиотеку Transformers в формате safetensors. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Это предварительно обученная модель, а не версия, настроенная специально для диалога; качество и безопасность ответов следует проверять и при необходимости адаптировать для конкретного применения. Использование регулируется пользовательской лицензией Llama 3.2 Community License и Acceptable Use Policy.

m8than/Llama-2-7b-chat-hf — копия модели Llama 2 7B Chat от Meta, размещённая на Hugging Face. Это авторегрессионная плотная Transformer-модель примерно с 6,6 млрд параметров, оптимизированная для диалогов и генерации текста. Она принимает текст и выдаёт текст; заявленная длина контекста — 4096 токенов. В карточке Meta указаны английский язык, обучение с учителем и дополнительное выравнивание с помощью RLHF. Модель подходит для диалоговых помощников, ответов на вопросы и создания текстовых продолжений. Возможны неточные или предвзятые ответы и небезопасные генерации. Репозиторий указывает лицензию Apache-2.0, однако исходная модель Llama 2 распространяется по лицензии Meta Llama 2 Community License; перед использованием следует учитывать условия лицензии исходных весов.

Magpie-Align/Llama-3.1-8B-Magpie-Align-v0.1 — англоязычная диалоговая модель семейства Llama 3.1, разработанная командой Magpie-Align. Это плотная авторегрессионная модель с 7,5 млрд параметров и контекстом до 131 072 токенов; она принимает текст и генерирует текст, используя официальный шаблон чата Llama 3.1. Модель сначала дообучили методом SFT на наборах Magpie-Pro-MT-300K-v0.1 и Magpie-Reasoning-150K, затем применили DPO на датасете UltraFeedback ARMOR. Модель предназначена для диалогов, выполнения инструкций и рассуждений на английском языке. В карточке авторы приводят результаты на MT-Bench, Alpaca Eval 2 и Arena Hard, однако эти оценки не гарантируют качества в конкретном сценарии. Для использования весов заявлена лицензия Llama 3.1 Community License; также авторы указывают необходимость соблюдать лицензию Meta Llama 3 Community License для данных.

unsloth/Llama-3.2-1B-Instruct-bnb-4bit — 4-битная версия instruction-tuned языковой модели Llama 3.2-1B-Instruct, распространяемая Unsloth на основе модели Meta. Это авторегрессионная модель с оптимизированной архитектурой Transformer и Grouped-Query Attention (GQA), предназначенная для генерации текста и диалоговых сценариев. Модель ориентирована на мультиязычный диалог, включая задачи суммаризации и agentic retrieval. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель работает только с текстом: принимает текстовые входные данные и генерирует текст. Размер составляет 1 млрд параметров; README не содержит данных о размере контекстного окна. Instruction-tuned версия обучалась с применением supervised fine-tuning (SFT) и reinforcement learning with human feedback (RLHF) для повышения полезности и безопасности. Ключевое преимущество варианта — 4-битное квантование, снижающее требования к памяти и подходящее для более экономичного запуска и дообучения. Ограничения включают меньший размер и, потенциально, более узкие возможности по сравнению с крупными моделями семейства, а также зависимость качества от поддерживаемого языка и сценария. Модель статична и обучена на офлайн-датасете, поэтому не обладает актуальными знаниями без внешних источников. Использование регулируется пользовательской лицензией Llama 3.2 Community License, являющейся специальной коммерческой лицензией Meta.

Llama-Sahabat-AI-v2-70B-IT — инструктивная языковая модель из семейства Sahabat-AI, разработанная PT GoTo Gojek Tokopedia Tbk и AI Singapore при соинициировании GoTo и Indosat Ooredoo Hutchison. Это плотная авторегрессионная модель-декодер на архитектуре Llama 3.1 с 69,5 млрд параметров, дообученная для общения и выполнения инструкций в индонезийском языковом контексте. Она предназначена для диалоговых приложений, ответов на вопросы, суммаризации, анализа тональности, перевода, рассуждений и работы с местными языками и культурой Индонезии. Модель принимает текст и генерирует текст. Поддерживает английский, индонезийский, яванский, сунданский, язык батак тоба и балийский. Контекстное окно составляет до 131 072 токенов по метаданным; README указывает 128k. В оценках использовались бенчмарки IndoMMLU, SEA-HELM, SEA-IFEval и SEA-MTBench, в том числе задания на следование инструкциям и многоходовый диалог. Модель может выдавать галлюцинации, нерелевантные ответы и непоследовательные рассуждения; ответы требуют проверки. Для приложений с повышенными требованиями к безопасности разработчикам следует самостоятельно настраивать меры безопасности. Лицензия — Llama 3.1 Community License.

LlongOrca 13B 16K — большая языковая модель Open-Orca, представленная в формате GGUF и квантованная TheBloke. Она основана на архитектуре Llama и предназначена для генерации текста, диалоговых сценариев и локального запуска через совместимые приложения и библиотеки. В описании указана поддержка английского языка, а исходный набор данных — OpenOrca. Модель имеет 13 млрд параметров и контекстное окно до 16K токенов. GGUF поддерживает метаданные, специальные токены и расширяемость; доступны варианты квантования от 2 до 8 бит, что позволяет выбирать компромисс между качеством, скоростью и потреблением памяти. Модель совместима с llama.cpp, text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другими инструментами для CPU+GPU-инференса. Для диалогов указан шаблон ChatML. К сильным сторонам относятся увеличенный контекст и возможность локального запуска на широком спектре аппаратных конфигураций благодаря квантованным версиям. Ограничения включают зависимость качества и требований к памяти от выбранного уровня квантования, а также отсутствие в README подробных результатов тестирования и характеристик мультиязычности. Для использования заявлена лицензия llama2; поскольку модель основана на Llama 2, также применяются условия лицензии Meta Llama 2. Вопросы о взаимодействии этих лицензий рекомендуется уточнять в репозитории исходной модели.

MiniMax-M3-GGUF — это квантизированная в формате GGUF версия модели MiniMax-M3, разработанной компанией MiniMaxAI и подготовленная пользователем bartowski с использованием llama.cpp. Модель относится к архитектурам MoE и содержит около 427 млрд параметров. Доступны варианты квантизации от Q2 до Q8, включая imatrix-квантизации, с размером файлов примерно от 146 до 454 ГБ. Модель предназначена для работы с текстом, а также с изображениями при использовании дополнительного файла mmproj. По заявленным тегам, её предполагаемые сценарии включают мультимодальные задачи, программирование, агентные приложения и обработку видео, однако подробные результаты тестирования и точные поддерживаемые видеосценарии не указаны. Формат GGUF ориентирован на запуск через llama.cpp и совместимые инструменты. В README не указаны размер контекстного окна, список поддерживаемых языков и детальные характеристики архитектуры. К сильным сторонам относятся очень большой размер базовой модели, поддержка мультимодального ввода и широкий выбор вариантов квантизации с разным соотношением качества и требований к памяти. Основные ограничения — исключительно высокие требования к дисковому пространству и оперативной или видеопамяти, а также возможное снижение качества при выборе низкобитных вариантов. Модель не поддерживает MTP. Лицензия обозначена как minimax-community; также указано общее обозначение лицензии other, поэтому условия использования следует уточнять в файле LICENSE исходного репозитория.

win10/miscii-14b-1M-0128 — созданная с помощью mergekit и метода SCE объединённая языковая модель на архитектуре Qwen2, разработчик — win10. В качестве основы использована sthenno-com/miscii-14b-1225; в объединение также вошли несколько моделей Qwen2.5 и производные от DeepSeek-R1-Distill-Qwen-14B. Модель содержит 14 млрд параметров и рассчитана на генерацию текста и диалоги. Заявленный контекст — до 131 072 токенов; в карточке указаны английский и китайский языки. Модель распространяется в формате safetensors через библиотеку Transformers по лицензии Apache-2.0. README приводит результаты оценок IFEval и BBH, но не описывает методику проверки или практические ограничения качества; фактическая производительность может зависеть от запроса и настроек генерации.

Модель thewordsmiths/Mistral-7B-v0.3_sft_merged_100000 — дообученная разработчиком thewordsmiths версия языковой модели Mistral-7B-v0.3. Она предназначена для генерации текста и может использоваться в приложениях, где требуется создавать продолжения или ответы на текстовые запросы. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров, принимает текст и генерирует текст. Контекст составляет до 32 768 токенов, язык карточки модели — английский. Для обучения использовались Unsloth и библиотека TRL; веса доступны в формате safetensors. Лицензия — Apache-2.0.

Mistral-Evolved-11b-v0.1-GGUF — это набор квантизированных версий языковой модели Mistral-Evolved-11b-v0.1, разработанной Replete-AI и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, включая сценарии, где важны автономная работа и снижение требований к оперативной памяти по сравнению с полноразмерной моделью. В набор входят варианты квантования от Q2_K до Q8_0 размером примерно от 4,16 до 11,86 ГБ. Версия Q6_K обозначена как рекомендуемая и обеспечивает очень высокое качество, близкое к исходной модели; Q8_0 предлагает максимальное доступное качество, а варианты Q3 и Q2 требуют меньше памяти, но заметно уступают по качеству. README не содержит сведений об архитектуре, длине контекста, поддерживаемых языках, точном числе параметров, дополнительных модальностях или результатах оценки, поэтому модель следует рассматривать как текстовую. Преимуществами являются широкий выбор уровней квантования, совместимость с llama.cpp и возможность подобрать баланс между качеством и потреблением памяти. Ограничения связаны с потерей качества при низких уровнях квантования, а также с отсутствием подробной информации о возможностях и бенчмарках исходной модели. Репозиторий распространяется по лицензии Apache-2.0; квантование выполнено с использованием llama.cpp release b2440.

mistral-NeuralHermes-7B-slerp — диалоговая языковая модель, созданная объединением mistralai/Mistral-7B-Instruct-v0.2 и mlabonne/NeuralHermes-2.5-Mistral-7B методом SLERP с помощью mergekit. Это плотная модель MistralForCausalLM на 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в диалоговом формате. Она принимает текст и выдаёт текст; заявленный размер контекста — до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текста по запросу. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка описывает состав и настройки слияния, но не приводит сравнительных оценок качества или подробных ограничений применения.

ModernBERT-large — англоязычная модель Answer.AI, LightOn и их коллег, представляющая собой двунаправленный трансформерный энкодер в стиле BERT. Она содержит около 395 млн параметров и принимает последовательности длиной до 8 192 токенов. В архитектуре используются Rotary Position Embeddings, чередование локального и глобального внимания, а также оптимизации для эффективной обработки длинных входов. Модель предварительно обучена на 2 трлн токенов английского текста и кода. Её основная задача — предсказание замаскированных токенов; как энкодер она также подходит в качестве основы для классификации, поиска информации и семантического поиска по текстовым и кодовым корпусам. Для запуска доступны форматы PyTorch, Safetensors и ONNX через библиотеку Transformers. Модель особенно полезна для длинных документов и поиска по коду, но карточка Hugging Face классифицирует её как fill-mask, а не как готовую модель эмбеддингов или классификатор. Качество может быть ниже для языков помимо английского и кода; обработка всего контекстного окна может быть медленнее коротких входов, а представления могут отражать смещения обучающих данных. Лицензия — Apache-2.0.

MaziyarPanahi/neural-chat-7b-v3-1-dare-0.85-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая модель на базе Mistral-7B-Instruct-v0.2 и uukuguy/neural-chat-7b-v3-1-dare-0.85. Веса объединены методом SLERP с настройками для слоёв self-attention и MLP; модель имеет плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов на инструкции. Контекст составляет до 32 768 токенов; репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. В README не приведены результаты оценки качества или отдельные гарантии работы для конкретных языков и предметных областей.

Это объединённая методом TIES модель Weyaxi, созданная на основе Intel/neural-chat-7b-v3-1 и teknium/OpenHermes-2.5-Mistral-7B. Модель представляет собой плотную авторегрессионную языковую модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста и может применяться для диалогов, ответов на вопросы и других задач, решаемых текстовой генерацией. Веса доступны в формате safetensors. Лицензия — Apache-2.0.

NeuralsirkrishnaShadow_YamMulti_verse_model — объединённая языковая модель на архитектуре Mistral, созданная из automerger/NeuralsirkrishnaShadow-7B и automerger/YamMulti_verse_model-7B. Она предназначена для генерации текста по текстовому запросу и поддерживает контекст длиной до 32 768 токенов. Веса доступны в формате safetensors; размер модели — 7,1 млрд параметров. Разработчик в карточке отдельно не указан. Лицензия — Apache-2.0.

Это GGUF-квантизация модели Nemotron-Cascade-2-30B-A3B, разработанной NVIDIA, подготовленная пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста общего назначения и задач, где важны рассуждения; в метаданных также указано обучение с применением SFT и RL. Доступны варианты от BF16 до различных уровней квантования GGUF, что позволяет выбирать между качеством, размером файлов и требованиями к памяти. Известно, что модель относится к семейству Nemotron-Cascade-2 и имеет обозначение 30B-A3B, однако подробности архитектуры, фактическое число активируемых параметров, размер контекста и поддерживаемые модальности в README не указаны. Заявлен английский язык. Модель можно запускать через llama.cpp, LM Studio, koboldcpp, Jan AI и другие совместимые инструменты; для работы может потребоваться их обновлённая версия с поддержкой этой архитектуры. Более сильные варианты квантования обеспечивают лучшее сохранение качества, а компактные варианты снижают требования к оперативной памяти, но могут заметнее ухудшать результаты. Использование регулируется NVIDIA Open Model License; в карточке указана лицензия other и приведена ссылка на условия NVIDIA. Конкретные ограничения лицензии, результаты benchmark-тестов и подробные сведения о сильных и слабых сторонах исходной модели в README не приведены.

Это GGUF-квантизированная версия языковой модели OpenReasoning-Nemotron-14B, разработанной NVIDIA. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Модель имеет размер 14 миллиардов параметров; README не сообщает точную архитектуру, поддерживаемые языки и размер контекстного окна. Доступны варианты от полноточного BF16 до более компактных форматов Q8, Q6, Q5, Q4, Q3 и IQ. Старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти, но сильнее теряют в качестве. Для большинства сценариев рекомендуются варианты Q4_K_M, Q5_K_M, Q6_K и Q6_K_L; Q4_1 и Q4_0 используют устаревший формат, но могут быть полезны на некоторых CPU и Apple silicon. Сильная сторона этой версии — широкий выбор квантизаций для локального запуска на оборудовании с разным объёмом памяти. Ограничения связаны с неизбежной потерей качества при низких уровнях квантизации, а также с отсутствием в README подробностей о возможностях исходной модели, языках и контекстном окне. Лицензия в предоставленных данных не указана.