I.5Создание и редактирование текста

Amadeus-Verbo-BI-Qwen-2.5-32B-PT-BR-Instruct-Experimental — языковая модель на базе Qwen2.5-32B, дообученная разработчиками Amadeus AI на 600 тысячах инструкций за два эпоха. Модель предназначена для диалоговой генерации текста и следования инструкциям на бразильском португальском языке. Это плотная Transformer-модель с архитектурой Qwen2, 32 млрд параметров по метаданным (в README указано 32,5 млрд), контекстом до 131 072 токенов и весами в формате Safetensors. Для загрузки используется библиотека Transformers; карточка также отмечает интерфейс вызова инструментов. Модель может подойти для длинных диалогов и задач, где нужен бразильский вариант португальского. Лицензия — Apache-2.0. Опубликована как экспериментальная версия; качество и пригодность для конкретных приложений следует проверять на целевых данных. Карточка не приводит подробностей о составе обучающего набора или результатах оценки.

Amadeus-Verbo-MI-Qwen-2.5-32B-PT-BR-Instruct-Experimental — диалоговая языковая модель на архитектуре Qwen2.5, созданная AmadeusAI слиянием SLERP моделей Qwen/Qwen2.5-32B-Instruct и AmadeusAI AV-BI-Qwen2.5-32B-PT-BR-Instruct. Она предназначена для генерации текста и диалогов на бразильском португальском языке; доступна для запуска через Transformers и поддерживает интерфейс вызова инструментов. Модель содержит 32 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текста на португальском языке. В метаданных указана лицензия Apache-2.0. Карточка не приводит результатов оценивания качества или подробностей о проверке поведения после слияния.

Amber-GGUF — это квантованные файлы языковой модели Amber, разработанной LLM360 и преобразованной в формат GGUF пользователем TheBloke. Модель предназначена для генерации текста на английском языке и локального запуска через llama.cpp и совместимые приложения и библиотеки. В репозитории представлены варианты квантования с разрядностью от 2 до 8 бит для CPU+GPU-инференса. Формат GGUF поддерживается llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio, llama-cpp-python и другими инструментами. Модель использует текстовую модальность; размер, точная архитектура, длина контекста и дополнительные языки в предоставленных данных не указаны. Шаблон запроса минимальный: входной текст передаётся напрямую. Ключевое преимущество — широкий выбор уровней квантования, позволяющий подбирать компромисс между размером файлов, требованиями к памяти и качеством генерации, а также возможность локального запуска на CPU и GPU. Ограничения связаны с потерями качества, характерными для квантованных версий, и зависимостью совместимости от используемого клиента и версии llama.cpp. Указанная лицензия модели — Apache-2.0.

AnLLM-AC-7B-PT — языковая модель для генерации текста, созданная на основе Llama 2 7B и дообученная на выборке RedPajama-Data-1T-Sample. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 6,6 млрд параметров и контекстом до 4096 токенов. Репозиторий содержит веса в формате PyTorch. Модель предназначена для генерации продолжений текста и других сценариев, реализуемых через text generation. README не приводит конкретных результатов оценки, рекомендаций по применению или известных ограничений качества. Лицензия в предоставленных данных не указана.

IsValorum/Apodex-1.1-mini-APEX-I-MiniPlus-V2-GGUF — это GGUF-квантизированная версия модели Apodex-1.1-mini, разработанная Apodex и квантизированная IsValorum. Модель предназначена для локального запуска и поддерживает сценарии генерации текста, рассуждений и обработки изображений вместе с текстом; в карточке также заявлены MoE-архитектура, speculative decoding и Multi-Token Prediction (MTP), однако подробные параметры базовой модели в представленном фрагменте README отсутствуют. Модель ориентирована на многоязычное применение. В заявленных языках указаны английский, китайский, испанский, французский, немецкий, португальский, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Для визуальных задач предусмотрен мультимодальный vision projector в формате Q8_0; конкретный размер модели, число параметров и точное максимальное окно контекста для этой версии не указаны. README описывает возможность работы с длинным контекстом свыше 160 тысяч токенов, но это приведено как характеристика практических испытаний семейства MiniPlus, а не как строгое спецификационное ограничение данной сборки. К сильным сторонам относятся специализированная покомпонентная квантизация, сохранение router gates в F32, token output head в Q6_K, attention gates в Q8_0 и использование не менее 3-битных представлений для ключевых reasoning-экспертов. Такая конфигурация призвана сохранить качество рассуждений и снизить требования к памяти по сравнению с неквантизированными моделями. Ограничения связаны с потерями точности, неизбежными для квантизированной версии, зависимостью производительности от аппаратного обеспечения и неполнотой опубликованных технических характеристик. Лицензия — Apache-2.0.

aqua-smaug-0.3-8B — плотная языковая модель семейства Llama, созданная автором репозитория с помощью Mergekit путём слияния cognitivecomputations/dolphin-2.9-llama3-8b, abacusai/Llama-3-Smaug-8B и meta-llama/Meta-Llama-3-8B. Модель содержит 7,5 млрд параметров и принимает текст для генерации текста; в метаданных указана возможность диалога и контекст длиной 8192 токена. Модель предназначена для генерации ответов и ведения диалогов. В README приведены результаты оценки на WinoGrande, ARC, GSM8K, MMLU, TruthfulQA и HellaSwag, однако подробные инструкции по использованию и данные о языках модели не представлены. Репозиторий распространяется под лицензией Apache-2.0.

AraBART-summ — модель для автоматического суммирования текста на арабском языке, представленная пользователем abdalrahmanshahrour. Она основана на архитектуре mBART и содержит около 95 млн параметров. Модель предназначена для создания краткого изложения исходного текста; карточка также связывает её с датасетом XLSum и задачей суммирования арабских новостей. Максимальная длина контекста составляет 1024 токена. Модель принимает текст и генерирует текстовое резюме. Опубликована в формате PyTorch по лицензии Apache-2.0. В README приведены метрики Loss и ROUGE, но не описаны условия обучения и оценки, поэтому по этим значениям нельзя надёжно судить о качестве на конкретных данных.

ARIA 70B V2 — это большая языковая модель в формате GGUF, разработанная Faradaylab и квантизированная TheBloke. Репозиторий содержит варианты модели для запуска через llama.cpp и совместимые интерфейсы и библиотеки, включая text-generation-webui, LM Studio, KoboldCpp, Faraday.dev, ctransformers и llama-cpp-python. Исходная модель доступна в формате PyTorch FP16, а также существуют варианты AWQ и GPTQ. Модель основана на архитектуре Llama и предназначена для генерации текста, диалоговых сценариев, ролевого общения, образовательных задач и, согласно метаданным, работы с кодом. Заявлены английский и французский языки. Для общения используется шаблон Llama-2-Chat с системными инструкциями о полезных, безопасных и непредвзятых ответах. Размер модели — 70B параметров; сведения о длине контекста и поддержке дополнительных модальностей в README не указаны. Ключевое преимущество этой версии — поддержка нескольких уровней 2-, 3-, 4-, 5-, 6- и 8-битного квантования, позволяющая запускать модель с использованием CPU и GPU и выбирать компромисс между качеством, скоростью и требованиями к памяти. Ограничения включают высокие аппаратные требования для 70B-модели, возможное снижение качества из-за квантования и отсутствие подтверждённых характеристик производительности. Указанная лицензия — llama2.

Jebadiah/Aria-7b-128k-v2 — объединённая автором модель генерации текста, созданная с помощью mergekit методом линейного слияния. В слиянии участвовали Nitral-AI/Echidna-7b-128k и Jebadiah/Llama-3-8B-source-lewd-context-function-calling; веса сохранены в формате safetensors. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и рассчитана на работу с текстом. Модель предназначена для генерации текста и диалоговых сценариев; одна из объединённых моделей также ориентирована на работу с контекстом и вызов функций. Метаданные указывают нативную длину контекста 32 768 токенов. В карточке не приведены результаты оценки качества или условия лицензии, поэтому их нельзя установить по доступным сведениям.

ArliAI_GLM-4.5-Air-Derestricted-GGUF — это квантизированная версия текстогенерационной модели GLM-4.5-Air-Derestricted, разработанной ArliAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модель распространяется в формате GGUF и предназначена для локального запуска через llama.cpp, LM Studio и совместимые проекты. Модель подходит для генерации текста и диалоговых сценариев, включая использование с указанным шаблоном prompt format. Доступны варианты квантизации от Q8_0 до Q2_K_L с размером файлов примерно от 50 до 117 ГБ: более высокие разрядности обычно обеспечивают лучшее качество, а низкие требуют меньше оперативной памяти. В README не указаны архитектурные детали, число параметров, поддерживаемые языки, размер контекста и модальности, поэтому эти характеристики нельзя достоверно оценить. Лицензия — MIT.

ArliAI-Llama-3-8B-Dolfin-v0.5 — разговорная модель OwenArli на архитектуре Llama 3, дообученная на базе Meta-Llama-3-8b-Instruct. Она предназначена для генерации ответов и следования инструкциям в диалогах; автор указывает, что использовал улучшенные наборы данных Dolphin и WizardLM, чтобы повысить следование инструкциям и снизить частоту отказов. Модель содержит 7,5 млрд параметров, а её базовый контекст составляет 8192 токена. Дообучение выполнялось методом QLoRA с рангом 64 и alpha 128; README сообщает о последовательностях длиной 2048 токенов при обучении и сохранении качества на контексте 8192 токена. Репозиторий содержит веса Safetensors. Модель рассчитана на текстовый ввод и текстовые ответы. Карточка не приводит отдельные результаты бенчмарков и подробного перечня поддерживаемых языков. Использование регулируется лицензией Meta Llama 3; необходимо соблюдать её условия.

ArliAI-Llama-3-8B-Instruct-Dolfin-v0.1 — чат-модель OwenArli, дообученная на основе Meta-Llama-3-8B-Instruct с использованием изменённого набора данных Dolphin. Это плотная авторегрессионная модель семейства Llama примерно с 7,5 млрд параметров; она принимает текстовые запросы и генерирует текстовые ответы в формате инструкций Llama 3. Заявленная длина контекста — 8192 токена. Модель предназначена для диалогов и широкого круга общих задач: авторы стремились улучшить следование запросам и выдачу ответов в заданном формате, а также снизить частоту отказов. Обучение выполнялось с QLoRA ранга 64 и alpha 128; в карточке сказано, что обучаемыми были около 2% весов. Авторы не приводят результаты бенчмарков, поэтому качество следует оценивать на собственных запросах. Репозиторий распространяется по лицензии Apache-2.0 в метаданных Hugging Face, однако README указывает на соглашение Meta Llama 3 License для базовой модели; условия использования стоит сверять с обеими лицензиями. Модель может выдавать менее сдержанные ответы и не должна считаться источником проверенных фактов.

bartowski/ArliAI_QwQ-32B-ArliAI-RpR-v4-GGUF — это набор квантованных GGUF-версий текстовой генеративной модели ArliAI/QwQ-32B-ArliAI-RpR-v4, разработанной ArliAI. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться через llama.cpp, LM Studio и другие совместимые проекты, включая локальные сценарии инференса на пользовательском оборудовании. Доступны варианты от BF16 до квантовок Q8_0, Q6, Q5, Q4, Q3 и IQ, поэтому можно выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Размер базовой модели составляет 32B параметров; заявленный язык — английский. В README не указаны архитектурные детали, размер контекстного окна, мультимодальные возможности, результаты бенчмарков или специализированные области применения. Более сильные квантизации обеспечивают качество, близкое к исходным весам, тогда как варианты Q3 и некоторые другие требуют меньше памяти, но могут заметно уступать по качеству. Модель распространяется по лицензии Apache-2.0.

ArlowGPT-3B — компактная плотная языковая модель на архитектуре Llama 3.2 3B Instruct, дообученная разработчиком yuchenxie на наборе инструкций за пять эпох. Модель содержит 3,2 млрд параметров, работает с текстом и предназначена для диалогов и генерации ответов на инструкции; в метаданных указаны контекст до 131 072 токенов и интерфейс вызова инструментов. Карточка описывает примеры обучающих данных для разговоров, вопросов и ответов, справочных материалов и творческого письма, но не приводит их названия или независимые оценки качества. Модель подходит для чат-ботов, ответов на вопросы, создания текстов и краткого изложения документов в приложениях с ограниченными вычислительными ресурсами. README заявляет применение в юридических, медицинских и финансовых сценариях, однако не приводит профильной проверки качества для этих областей. Возможные ограничения включают более слабое решение сложных задач и зависимость результатов от типа задания. Лицензия — MIT.

AryaBhatta-GemmaOrca-Merged — языковая модель семейства Gemma, разработанная GenVR и дообученная для инструкций и общения на английском и девяти индийских языках: хинди, тамильском, панджаби, бенгальском, гуджарати, ория, телугу, каннада и малаялам. Модель содержит 8,2 млрд параметров, использует плотную архитектуру GemmaForCausalLM, принимает текст и поддерживает контекст до 8192 токенов. Доступна в формате safetensors под лицензией MIT. Модель сначала дообучали на математических задачах из наборов Orca, затем на диалоговых данных Samvaad и наборах инструкций на индийских языках. Она предназначена для генерации ответов на запросы, многоязычного диалога и решения математических задач. В README приведены сравнительные результаты на AGIEval, GPT4All, TruthfulQA и BigBench; эти оценки относятся к тестам разработчиков и сами по себе не гарантируют качество в конкретном применении. Карточка описывает объединённую серию AryaBhatta-GemmaOrca, но не уточняет, является ли данный репозиторий вариантом на базе исходной Gemma или Zephyr-Gemma; указанными возможными источниками служат Google/gemma и HuggingFaceH4/zephyr-7b-gemma-v0.1. Следует учитывать, что качество может различаться между поддерживаемыми языками и задачами, а заявленные языки не подтверждают одинаковую надёжность во всех сценариях.

Aryanne/Astrorocketboros-3B — языковая модель для генерации текста, созданная слиянием моделей ayoubkirouane/StableLM-3B, pansophic/rocket-3B, Aryanne/Astrohermes-3B и jondurbin/airoboros-3b-3p0 методом task arithmetic. По метаданным, это плотная модель архитектуры StableLM Epoch с 2,7 млрд параметров, рассчитанная на контекст до 4096 токенов. Для диалогов автор рекомендует формат промпта ChatML; также может работать формат Alpaca, если перед инструкцией добавить текст. Модель предназначена для диалоговой генерации текста и выполнения инструкций. В репозитории указаны веса Safetensors в формате float16; лицензия — CC BY-SA 4.0. Автор отмечает, что не уверен в корректности всех JSON-файлов, хотя модель, по его словам, работает.

Карточка модели EpistemeAI/Athena-gemma-2-9b-it на Hugging Face совпадает с карточкой EpistemeAI/Athena-gemma-2-9b-it-Philos, поэтому описание составлено по ней. Athena-gemma-2-9b-it-Philos — чат-модель EpistemeAI, дообученная на базе unsloth/gemma-2-9b-it-bnb-4bit с помощью Unsloth и Hugging Face TRL. Это плотная языковая модель Gemma 2 с 9 млрд параметров, предназначенная для генерации текста в диалоге. Она принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. Карточка не описывает философскую специализацию модели или конкретные обучающие данные, поэтому название не подтверждает её пригодность для специализированных философских задач. Модель распространяется по лицензии Apache-2.0. В карточке указано, что обучение выполнялось с использованием Unsloth и TRL.

Athene-70B — открытая по весам диалоговая языковая модель команды Nexusflow, дообученная методом RLHF на основе meta-llama/Meta-Llama-3-70B-Instruct. Она предназначена для чат-ассистентов и генерации ответов на запросы пользователя; для диалогов использует тот же шаблон чата, что и Llama 3 70B Instruct. Модель построена на плотной архитектуре Llama с 69,5 млрд параметров и поддерживает контекст до 8192 токенов. В карточке приводится результат 77,8% на Arena-Hard-Auto — бенчмарке, служащем приближённой оценкой качества в Chatbot Arena. Метаданные указывают английский язык. Модель распространяется по Nexusflow Research License; условия этой лицензии следует учитывать при использовании.

mradermacher/atom-27b-i1-GGUF — набор квантованных моделей в формате GGUF, созданный mradermacher на основе vanta-research/atom-27b. Модель относится к семейству Gemma и предназначена для генерации текста, диалоговых сценариев, чат-ботов, ролевого общения и задач, связанных с рассуждением и исследованием поведения и взаимодействия человека с ИИ. В метаданных указан английский язык и библиотека Transformers. Модель имеет около 27 млрд параметров в исходной версии. README также описывает её как vision-модель, поэтому для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория. В данном наборе представлены варианты imatrix-квантизации с разными уровнями сжатия: от IQ1_S размером около 6,4 ГБ до Q6_K размером около 22,3 ГБ. В качестве сбалансированного варианта размера, скорости и качества рекомендован i1-Q4_K_S, а i1-Q4_K_M отмечен как быстрый и рекомендуемый. Основное преимущество набора — возможность запуска крупной модели при существенно меньшем потреблении памяти, а imatrix-квантизация может обеспечивать лучшее качество по сравнению с сопоставимыми вариантами. Ограничения зависят от выбранного уровня квантизации: самые компактные варианты имеют низкое качество, тогда как более качественные требуют больше памяти. Контекстное окно, точный набор поддерживаемых языков, результаты оценки и практические системные требования в README не указаны. Лицензия исходной модели обозначена как Gemma; условия использования следует проверять в соответствии с лицензией Gemma и исходной моделью.

Augmented-4dab026c0f536a32 — генеративная языковая модель с 6,6 млрд параметров, опубликованная на Hugging Face в формате, совместимом с библиотекой Transformers. В метаданных она отнесена к семейству Llama и предназначена для задачи text-generation. Модель поддерживает контекст длиной до 65 536 токенов, поэтому может применяться для генерации продолжений текста, диалоговых ответов, черновиков и других задач, требующих работы с большими фрагментами контекста. README не содержит сведений о разработчике, обучающих данных, результатах оценки, точном варианте архитектуры, языках поддержки или лицензии. Из-за неполноты карточки нельзя надежно оценить качество модели, ее специализацию и пригодность для конкретных прикладных сценариев. Перед использованием необходимы собственное тестирование, проверка поддерживаемых языков и уточнение условий лицензирования.

datagen-sft-1 — это дообученная Heralax модель для генерации текста на основе архитектуры Mistral с 7,1 млрд параметров. Она предназначена для диалоговой генерации и продолжения текста; при обучении использовались наборы данных с художественными текстами, веб-материалами, диалогами и примерами рассуждений. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. В карточке приведён результат оценки: loss 0,6304. Подробности о предполагаемых сценариях, качестве на конкретных задачах и ограничениях не описаны. Модель распространяется по лицензии Apache-2.0.

Awanllm-Llama-3-8B-Instruct-ORPO-v0.1-GGUF — набор GGUF-квантизаций инструкционной языковой модели Awanllm-Llama-3-8B-Instruct-ORPO-v0.1, разработанной AwanLLM. Квантизации подготовлены bartowski с использованием llama.cpp версии b2777 и метода imatrix. Модель предназначена для генерации текста и диалогового взаимодействия по инструкциям; поддерживает формат промптов Llama 3 с ролями system, user и assistant. Модель относится к семейству Llama 3 и содержит 8 миллиардов параметров. Это текстовая модель без заявленной поддержки изображений или других модальностей. В README не указаны языки, размер контекста, результаты тестирования и конкретные сценарии применения. Доступны варианты квантизации от Q8_0 до низкобитных IQ2 и Q2, что позволяет выбирать баланс между качеством ответов, размером файла и требованиями к оперативной памяти. Наиболее высокое качество обеспечивают Q8_0 и Q6_K, а Q4_K_M, Q5_K_M и Q5_K_S отмечены как рекомендуемые; более компактные варианты экономят память, но могут заметно снижать качество. Файлы предназначены для локального запуска в совместимом программном обеспечении, включая llama.cpp. Ограничения включают зависимость качества от выбранного уровня квантизации, а также отсутствие в предоставленных данных сведений о безопасности, оценках качества и поддерживаемых языках. Указанная лицензия — llama3; условия её применения следует уточнять по лицензии исходной модели и соответствующим требованиям разработчика.

Axeron Forge — объединённая модель генерации текста, созданная TuralBayev с помощью инструмента forgelm. В основе лежит Qwen/Qwen2.5-3B; методом Task Arithmetic объединены веса Qwen2.5-Coder-3B-Instruct и Qwen2.5-3B-Instruct с базовой моделью. Это плотная авторегрессионная модель архитектуры Qwen2 с 3,1 млрд параметров, доступная в формате safetensors и рассчитанная на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и выполнения инструкций; наличие компонентов Instruct и Coder позволяет использовать её для вопросов и ответов, помощи с кодом и структурированных ответов. Метаданные отмечают интерфейс вызова инструментов, однако карточка не содержит оценок качества или примеров, подтверждающих надёжность этой возможности. Лицензия в предоставленных данных не указана.

duyntnet/aya-23-8B-imatrix-GGUF — это набор квантованных форматов GGUF с использованием imatrix для модели Aya-23-8B, разработанной CohereForAI. Модель предназначена для генерации текста и может применяться в диалоговых сценариях, написании текстов и других задачах на основе языковой генерации. Известно, что это каузальная языковая модель размером 8B параметров, работающая с текстовой модальностью. В README явно указан английский язык, однако пример использования демонстрирует запрос на турецком языке; полный перечень поддерживаемых языков и размер контекста не приведены. Для работы требуется совместимая поддержка GGUF и соответствующее программное обеспечение; исходная модель использует Transformers и шаблон чата Command R Plus. Ключевое преимущество этой версии — квантованные представления, потенциально снижающие требования к памяти и вычислительным ресурсам по сравнению с полной моделью, однако конкретные уровни квантования и их влияние на качество не указаны. Лицензия обозначена как other, без дополнительных условий в README.

Badger/δ Llama 3 Instruct 32k — чат-модель семейства Llama 3, созданная автором maldv путём рекурсивной интерполяции и объединения нескольких моделей. В репозитории указано, что для неё настроен масштаб RoPE 4; автор сообщает, что ответы сохраняют связность при контексте 16–32 тыс. токенов. Метаданные указывают 7,5 млрд параметров, архитектуру LlamaForCausalLM, формат safetensors и нативный контекст 8192 токена. Модель предназначена для диалоговой генерации текста и инструктивных запросов. В README приведены результаты оценки на Open LLM Leaderboard, включая средний балл 69,49, но этих результатов недостаточно, чтобы судить о качестве во всех задачах. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование; перед применением следует соблюдать её условия.

Это GGUF-квантизированная версия языковой модели badger-lambda-llama-3-8b, разработанной maldv и подготовленной квантизатором bartowski. Модель основана на архитектуре Llama 3, содержит 8 млрд параметров и предназначена для генерации текста. Квантизация выполнена с использованием llama.cpp версии b3130 и метода imatrix, что позволяет запускать модель в форматах с различным соотношением качества, скорости и требований к памяти. Модель подходит для локального инференса и текстовых сценариев, включая диалоговую генерацию и обработку запросов в формате system/user/assistant. Доступны варианты от Q8_0 размером 8,54 ГБ до IQ2_XS размером 2,60 ГБ. Наиболее качественными считаются Q8_0 и Q6_K, а варианты Q5 и Q4 рекомендуются как компромисс между качеством и потреблением памяти; низкобитные варианты Q3 и Q2 требуют меньше ресурсов, но заметно уступают по качеству. В README не указаны поддерживаемые языки, длина контекста, точные характеристики исходной модели и результаты независимых тестов. Модель работает только с текстом, а качество и требования к ресурсам зависят от выбранного варианта квантизации. Лицензия — CC BY-NC 4.0, допускающая использование с некоммерческими ограничениями.

MaziyarPanahi/bagel-dpo-7b-v0.1-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением моделей Mistral-7B-Instruct-v0.2 и bagel-dpo-7b-v0.1 методом SLERP. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не уточняет целевые языки и специализированные предметные области; возможности и качество для конкретных языков или задач отдельно не описаны.

bahcecrumles-3b-slerp — диалоговая языковая модель, созданная liminerity слиянием методом SLERP через mergekit моделей indischepartij/MiniCPM-3B-OpenHermes-2.5-v2 и liminerity/baccules-3b-slerp. Модель семейства Llama имеет плотную архитектуру LlamaForCausalLM и около 2,7 млрд параметров; она предназначена для генерации текста в диалоговом формате и принимает текстовый контекст длиной до 2048 токенов. Модель подходит для диалоговых помощников и генерации ответов на текстовые запросы. Карточка не описывает специализированную область применения или поддерживаемые языки. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Baichuan-13B-Instruction — версия Baichuan-13B, дообученная разработчиком AlpachinoNLP для выполнения инструкций. Это плотная авторегрессионная языковая модель класса BaichuanForCausalLM с 12,9 млрд параметров; в базовой архитектуре Baichuan-13B используются 40 слоёв, 40 голов внимания и позиционные смещения ALiBi. Модель предназначена для генерации ответов и выполнения текстовых инструкций, в том числе на китайском и английском языках. Модель подходит для диалоговых демо, ответов на вопросы и других задач генерации текста. В README описаны инструкции по запуску и квантированию int8/int4; заявленная максимальная длина последовательности базовой Baichuan-13B составляет 4096 токенов. README сообщает о дообучении на отобранных китайских инструкционных данных, включая ShareGPT и LIMA. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

bartowski/baidu_ERNIE-4.5-21B-A3B-PT-GGUF — это GGUF-квантизация модели ERNIE-4.5-21B-A3B-PT, разработанной Baidu. Квантизации подготовлены bartowski с использованием llama.cpp b5924 и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от исходных весов BF16 размером 43,66 ГБ до компактных IQ3 и Q3 объёмом около 9,35–10,73 ГБ, а также распространённые форматы Q4, Q5, Q6 и Q8. Варианты Q4–Q6 обеспечивают хороший или очень высокий уровень качества при меньших требованиях к памяти; Q4_K_M обозначен как стандартный вариант для большинства сценариев, а Q6_K_L и Q6_K — как варианты, близкие к максимальному качеству. Некоторые форматы оптимизированы для CPU, ARM или Apple Silicon. В README не указаны контекстное окно, поддерживаемые языки, модальности, точная архитектура и рекомендуемый формат промпта. Лицензия также не указана, поэтому условия использования следует уточнять на странице исходной модели Baidu. Ключевое ограничение — необходимость подобрать вариант квантизации с учётом доступной оперативной или видеопамяти и допустимой потери качества.