I.11Классификация, ранжирование и сопоставление

Spark-X2.5-4B-Q8_0-GGUF — это GGUF-сборка языковой модели Spark-X2.5-4B, разработанной XHToken. Данная версия подготовлена в формате Q8_0 и предназначена для генерации текста с использованием llama.cpp и совместимых инструментов. В README заявлены поддерживаемые языки English и Chinese, а также базовая модель с размером 4B параметров. Файл модели занимает примерно 4,38 ГБ. Квантование Q8_0 снижает требования к памяти по сравнению с полной BF16-версией, сохраняя высокую точность представления весов. В качестве серверной конфигурации приведён контекст 65536 токенов, однако архитектурные особенности и точный максимальный контекст модели отдельно не указаны. Модель ориентирована на локальный текстовый inference и может использоваться в приложениях, поддерживающих GGUF и llama.cpp. Ключевое ограничение — для поддержки Spark-X2.5 требуется совместимая реализация XHToken/llama.cpp, поэтому стандартная версия llama.cpp может быть несовместима. Лицензия модели — Apache License 2.0, как и у базовой модели.

StableLM 2 Zephyr 1.6B-GGUF — квантизированная GGUF-версия языковой модели StableLM 2 Zephyr 1.6B, разработанной Stability AI и подготовленной квантизацией Second State Inc. Это авторегрессионная causal language model для генерации текста и диалогового взаимодействия на английском языке. Модель предназначена для локального запуска, включая использование через LlamaEdge, и подходит для чат-ботов, ответов на вопросы, следования инструкциям и других задач генерации текста. Исходная модель дообучалась на наборах данных UltraChat, UltraFeedback, MetaMathQA, WizardLM, OpenChat, Capybara, Orca DPO и Deita. Варианты GGUF используют квантизацию от 2 до 8 бит; доступны файлы размером примерно от 694 МБ до 1,75 ГБ. В README указан контекст размером 2048 токенов. Главные преимущества модели — компактный размер и возможность запуска на ограниченных ресурсах. Квантизация снижает требования к памяти, но варианты с малой битностью заметно теряют в качестве; рекомендованы Q4_K_M, Q5_K_M и Q5_K_S. Модель поддерживает текстовую модальность и английский язык. Лицензия обозначена как other, без дополнительных условий в представленном README, поэтому перед использованием необходимо проверить лицензию исходной модели.

rootxhacker/superintelligence-llama3.1-8b — плотная языковая модель семейства Llama 3.1, разработанная rootxhacker путём дообучения unsloth/meta-llama-3.1-8b-bnb-4bit. Модель содержит 7,5 млрд параметров, принимает текст и предназначена для генерации текста; заявленная длина контекста — 131 072 токена. В карточке указано, что модель обучалась с использованием Unsloth и библиотеки TRL. Данных о специализации на конкретной области или о дополнительных сценариях применения нет. Модель распространяется по лицензии Apache-2.0.

nlpguy/T3QM7X — объединённая авторегрессионная языковая модель семейства Mistral на 7,1 млрд параметров, созданная с помощью mergekit методом SLERP из nlpguy/T3QM7 и nlpguy/MergeX. Она предназначена для генерации текста и диалоговых ответов по текстовым запросам. Модель принимает текст и выдаёт текст; заявленная длина контекста составляет 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Сведения о конкретных сильных сторонах и ограничениях качества в карточке не приведены; как и другие языковые модели, она может генерировать неточные или вымышленные ответы.

T3qm7xNeuralsirkrishna_Strangemerges_30Pastiche — объединённая текстовая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием automerger/T3qm7xNeuralsirkrishna-7B и automerger/Strangemerges_30Pastiche-7B и предназначена для генерации текста и диалогов. Модель принимает текст и выдаёт текст. Контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Сведения о специализации на определённой области или языке отсутствуют, поэтому модель следует считать общего назначения.

yuyijiong/T5-large-sentiment-analysis-Chinese-MultiTask — модель на архитектуре T5 для многозадачного анализа тональности на китайских и английских текстах. Разработчик дообучил её на нескольких наборах данных для анализа тональности; часть данных была сгенерирована ChatGPT. Модель содержит около 385,7 млн параметров и распространяется в формате PyTorch для библиотеки Transformers. Модель извлекает из текста объекты, мнения, аспекты и полярность тональности, выдавая их в структурированном текстовом формате. Можно задавать аспекты для анализа, например товары, доставку, продавца или платформу, а также управлять длиной формулировки мнения. При необходимости модель может заполнить отсутствующий в исходном тексте объект предположением. Карточка не сообщает лицензию. Качество извлечения и обобщения мнений может зависеть от формулировки входного текста; режимы с сокращением или дополнением объектов способны привести к результатам, которых нет в исходнике. Контекстное окно и отдельные оценки качества в доступных сведениях не приведены.

Tess-3-Llama-3.1-70B-GGUF — набор квантизированных версий текстовой генеративной модели Tess-3-Llama-3.1-70B, разработанной migtissera. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска задач генерации текста, включая диалоговое взаимодействие и другие сценарии, поддерживаемые исходной моделью. Модель имеет размер 70B параметров и распространяется в формате GGUF с вариантами квантизации от Q8_0 до IQ1_M. Доступны версии размером примерно от 16,75 до 74,98 ГБ; наиболее сбалансированными по качеству и размеру в README названы Q6_K, Q5_K_M, Q4_K_M, Q4_K_S и IQ4_XS. Для работы рекомендуется формат prompt, совместимый с Llama 3.1, а запуск возможен, в частности, через LM Studio и llama.cpp. Сведения о поддерживаемых языках, длине контекста и мультимодальности не указаны. Главное преимущество набора — широкий выбор квантизаций, позволяющий адаптировать модель к доступному объёму памяти при сохранении приемлемого качества; высокоточные варианты обеспечивают качество, близкое к исходному. Ограничения связаны с большими требованиями к дисковому пространству и памяти, а у низкобитных версий качество заметно снижается. Модель распространяется по лицензии llama3.1.

QuantFactory/Teuken-7B-instruct-commercial-v0.4-GGUF — квантизированная версия 7-миллиардной instruction-tuned языковой модели Teuken-7B-instruct-commercial-v0.4, созданная с использованием llama.cpp. Исходную модель разработали Fraunhofer, Forschungszentrum Jülich, TU Dresden и DFKI в рамках исследовательского проекта OpenGPT-X при финансировании Федерального министерства экономики и защиты климата Германии. Архитектура модели — decoder-only Transformer. Модель предназначена для генерации текста, диалоговых сценариев и других мультиязычных NLP-задач, включая коммерческое и исследовательское использование. Она ориентирована на все 24 официальных языка Европейского союза: болгарский, чешский, датский, немецкий, греческий, английский, испанский, эстонский, финский, французский, ирландский, хорватский, венгерский, итальянский, литовский, латышский, мальтийский, нидерландский, польский, португальский, румынский, словацкий, словенский и шведский. Предобучение базовой модели выполнено на 4 триллионах токенов из общедоступных источников с датой отсечения данных в сентябре 2023 года. Сильная сторона модели — специализация на мультиязычных задачах и более стабильная работа с европейскими языками по сравнению с англоцентричными моделями. Для корректной работы требуется использовать предусмотренный prompt template или chat template. Модель не предназначена для математических и программных задач; также возможны галлюцинации, предвзятые, токсичные или иным образом вредные ответы. Размер контекста и конкретный формат квантизации в предоставленной карточке не указаны. Модель распространяется по лицензии Apache 2.0.

tFINE-850m-24x24-v0.5-instruct-L1 — языковая модель семейства T5, опубликованная pszemraj. Это дообучение модели pszemraj/tFINE-850m-24x24-v0.4-flan_aug на англоязычном наборе инструкций infinity-instruct-7m-T2T_en. Модель содержит 401,7 млн параметров и предназначена для генерации текста в ответ на инструкции: например, для подготовки объяснений и ответов на вопросы. Для запуска автор приводит пример с библиотекой Transformers и задачей text2text-generation. В карточке приведены результаты оценки по loss и метрикам ROUGE, а также результаты отдельных тестов на понимание прочитанного и вопросы с вариантами ответа. Они не гарантируют качество для всех запросов; модель компактнее многих крупных генеративных моделей, поэтому сложные задания могут требовать проверки результата. Модель распространяется по лицензии Apache-2.0.

SzilviaB/Triple-Moist-Theia-21B-SKEWED — объединённая языковая модель на архитектуре Mistral, созданная методом TIES с помощью mergekit на основе mergekit-community/Moist_Theia_21B. Модель содержит 20,7 млрд параметров и предназначена для генерации текста и чат-диалогов. Модель принимает текст и выдаёт текст; каталог указывает поддержку чат-сценариев. В метаданных заявлена длина контекста 1 024 000 токенов. Карточка не приводит сведений о специализации по языкам или предметным областям. Веса опубликованы в формате Safetensors, библиотека — Transformers; лицензия в предоставленных данных не указана.

Trurl 2 7B — дообученная Voicelab.AI версия Llama 2 для диалогов и генерации текста на польском и английском языках. Это авторегрессионная плотная трансформерная модель с 6,6 млрд параметров и контекстом до 4096 токенов; репозиторий содержит веса PyTorch. Модель принимает текст и генерирует текст. Модель предназначена для чат-ассистентов, ответов на вопросы и других задач генерации естественного языка. При использовании диалогового режима требуется формат беседы Llama 2 с соответствующими специальными токенами. Обучение проводилось на польских и английских диалоговых и инструкционных данных, включая наборы вопросов и ответов и разговоры из разных областей. Модель может выдавать неточные, предвзятые или нежелательные ответы; перед внедрением рекомендуется тестирование и настройка безопасности под конкретное применение. Авторы заявляют коммерческое и исследовательское использование; конкретная лицензия в предоставленных данных не указана.

Tulu V2 DPO 13B — разговорная языковая модель-помощник, разработанная AllenAI и дообученная на основе Meta Llama 2 13B. Модель прошла настройку по инструкциям на смеси открытых, синтетических и созданных людьми данных, а затем выравнивание методом Direct Preference Optimization (DPO) на наборе UltraFeedback. В метаданных указаны архитектура Llama, 12,9 млрд параметров и контекст до 8192 токенов. Модель предназначена для диалогов с помощником, ответов на инструкции и генерации текста; основной язык — английский. Авторы позиционируют её как альтернативу Llama 2 13B Chat. Для качества ответов рекомендуется использовать предусмотренный моделью формат сообщений с разделителями ролей и завершающим маркером хода ассистента. Модель не прошла специальное выравнивание для безопасных ответов и может выдавать проблемный контент, особенно по соответствующему запросу. Лицензия указана в карточке как AI2 ImpACT Low-risk; перед использованием следует проверить её условия.

allenai/tulu-v2.5-dpo-13b-alpacafarm-gpt4-pref — англоязычная чат-модель из набора RLHF-моделей Tulu, разработанного AllenAI. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, основанная на allenai/tulu-2-13b и дообученная на инструкциях, синтетических диалогах и данных предпочтений. Для дополнительного выравнивания применялся DPO на разбиении alpaca_farm_gpt4_pref; в репозитории указан формат PyTorch и контекст до 4096 токенов. Модель предназначена для генерации текста и ответов в диалогах с помощником на английском языке. Её можно использовать для выполнения инструкций, ответов на вопросы и создания текстовых черновиков. README указывает, что шаблон чата встроен в токенизатор и требует учитывать перевод строки при форматировании сообщений. Модель не обучалась на безопасные ответы и не имеет встроенной фильтрации, поэтому может выдавать проблемный контент, особенно по соответствующим запросам. Лицензия — Apache 2.0.

Voyage — диалоговая языковая модель Xenon1 на базе Mistral-7B-v0.1, дообученная на наборе Ultrafeedback с применением методов из статьи Self-Rewarding Language Models. Это плотный трансформер MistralForCausalLM примерно на 7,1 млрд параметров с Grouped-Query Attention, Sliding-Window Attention и токенизатором Byte-fallback BPE. Модель предназначена для генерации текста и ответов в формате диалога; контекст — до 32 768 токенов. Для инструкций используется шаблон Mistral с маркерами [INST] и [/INST], доступный также через chat template. В карточке приведены результаты на ARC-Challenge, HellaSwag, MMLU, TruthfulQA и WinoGrande. Модель поддерживает английский язык и распространяется под лицензией Apache-2.0. Карточка не описывает специализированную область применения или гарантии качества; фактические ответы могут быть ошибочными.

Xenon-1 — диалоговая языковая модель на архитектуре Mistral, разработанная на основе Mistral-7B-v0.1 и дообученная на наборе Ultrafeedback с применением методов из статьи Self-Rewarding Language Models. Она предназначена для генерации ответов на инструкции и ведения диалога; для форматирования запросов использует токены [INST] и [/INST], также доступен chat template Transformers. Модель содержит 7,1 млрд параметров, использует Grouped-Query Attention, Sliding-Window Attention и BPE-токенизатор с поддержкой байтового fallback. Контекст — до 32 768 токенов. В карточке указан английский язык. Веса доступны в форматах PyTorch и Safetensors, лицензия — Apache-2.0. Карточка не приводит отдельные оценки качества или подробный перечень ограничений.

YamshadowStrangemerges_32_ShadowExperiment24 — объединённая языковая модель семейства Mistral, созданная MaziyarPanahi на основе automerger/YamshadowStrangemerges_32-7B и automerger/ShadowExperiment24-7B. Модель с архитектурой MistralForCausalLM содержит 7,1 млрд параметров и принимает текст для авторегрессионной генерации текста; поддерживает контекст до 32 768 токенов. Модель предназначена для генерации продолжений, ответов и другого текста. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Данных о специальных предметных областях и поддерживаемых языках в предоставленных источниках нет.

Zenith_4B — чат-модель с архитектурой Llama, созданная с участием нескольких участников Anthracite. Это производная Minitron примерно на 3,9 млрд параметров: модель прошла восстановление весов и дообучение на 100 млн токенов качественных инструкций. Она предназначена для работы в роли общего ассистента и для ролевых диалогов, с улучшенным следованием инструкциям. В README указано обучение с контекстом 8 тыс. токенов; метаданные указывают нативное окно контекста 131 072 токена. Модель принимает текст и генерирует текст, поддерживает английский язык. Распространяется по лицензии Apache-2.0. Ключевое ограничение — небольшой размер: автор предупреждает, что ожидания по качеству следует соотносить с моделью на 4 млрд параметров. Указанные в метаданных 131 072 токена не отменяют того, что обучение проводилось с контекстом 8 тыс. токенов.

lilmeaty/5 — объединённая языковая модель, созданная с помощью mergekit из предварительно обученных весов lilmeaty/4 методом passthrough. Модель построена на плотной архитектуре Mistral и содержит 8,9 млрд параметров; она предназначена для генерации текста и диалогового взаимодействия. Заявленная длина контекста составляет 131 072 токена, формат весов — safetensors. Модель можно использовать для генерации продолжений текста и ведения диалога на основе текстовых запросов. Карточка не описывает специализированные области применения или языковую поддержку. Лицензия в предоставленных данных не указана.

CausalLM/7B — это языковая модель на 7,1 млрд параметров от разработчика, представившего её как совместимую с Meta LLaMA 2. Модель имеет плотную архитектуру LlamaForCausalLM и контекст длиной 8192 токена; загружается через Transformers без удалённого кода. README описывает её как дистилляцию версии 14B, обученную для speculative sampling, с форматом диалога ChatML. Модель предназначена для генерации текста и диалоговых ответов на английском и китайском языках. В README сообщается о дообучении на синтетических данных, включая переписанные и многоязычные примеры, математические задачи и материалы энциклопедического характера. Указаны результаты на MMLU, CEval и GSM8K, однако заявленные сравнительные преимущества являются результатами автора и не гарантируют качество в других сценариях. Автор предупреждает о возможных галлюцинациях и ненадёжных ответах. Модель обучалась на неотфильтрованных данных и может выдавать оскорбительный, порнографический или жестокий контент; в README также отмечено отсутствие дополнительного RLHF-обучения безопасности. Лицензия репозитория — WTFPL, но README указывает, что из-за происхождения весов Qwen и использования весов LLaMA 2 могут применяться дополнительные ограничения их коммерческого использования.

ADELIE-DPO-1.5B — дообученная языковая модель, разработанная Yunjia Qi, Hao Peng, Xiaozhi Wang, Bin Xu, Lei Hou и Juanzi Li для извлечения информации из текста. Она основана на Qwen2.5-1.5B и дополнительно выровнена методом Direct Preference Optimization (DPO) после инструкционного дообучения на корпусе IEInstruct. Архитектура — плотная Qwen2ForCausalLM с 1,5 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для закрытого и открытого извлечения информации, а также извлечения по запросу: распознавания сущностей, извлечения отношений и событий. В карточке сообщается о результатах на отложенных наборах данных для извлечения информации и отсутствии заметного ухудшения общих возможностей. Основной язык — английский. Лицензия указана как LLaMA 2 License для базовой модели.

ALAN — объединённая языковая модель на основе Microsoft Phi-4 и huihui-ai/phi-4-abliterated, созданная автором репозитория с помощью mergekit методом SLERP. Модель использует архитектуру Phi-3 для причинной генерации текста, содержит 14,1 млрд параметров и поддерживает контекст длиной до 16 384 токенов. Модель предназначена для генерации текста и диалогового общения. Сведения о лицензии в предоставленных данных отсутствуют.

ArliAI_QwQ-32B-ArliAI-RpR-v1-GGUF — это квантованные версии текстовой генеративной модели QwQ-32B-ArliAI-RpR-v1, разработанной ArliAI. Файлы в формате GGUF подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться через llama.cpp, LM Studio и другие совместимые проекты. Модель имеет размер 32B по обозначению базовой модели и рассчитана на англоязычные сценарии. В репозитории представлены варианты от BF16 до низкобитных квантований Q3 и Q4, а также более качественные Q5, Q6 и Q8. Это позволяет выбирать между качеством ответов, потреблением памяти и скоростью локального запуска. Для работы используется формат сообщений с ролями system, user и assistant; в шаблоне предусмотрен блок рассуждений <think>. Сильной стороной являются разнообразие вариантов квантования и возможность локального использования на совместимом оборудовании, включая запуск через llama.cpp и LM Studio. Более компактные варианты подходят для систем с ограниченной оперативной памятью, но могут заметнее уступать по качеству полноразмерным версиям. В README не указаны архитектура, размер контекстного окна, мультимодальные возможности, результаты бенчмарков и подробные ограничения модели, поэтому эти характеристики нельзя подтвердить. Лицензия — Apache-2.0.

ArmenianGPT v1.0-3B — открытая по весам языковая модель для генерации текста, разработанная Александром Баграмяном и представленная проектом ArmGPT. Модель ориентирована прежде всего на армяноязычное сообщество и предназначена для развития экосистемы больших языковых моделей в Армении. Заявлена поддержка армянского, английского и русского языков. Модель подходит для локального офлайн-использования: ответов на вопросы по документам, суммирования текстов, перевода и языковой поддержки, создания и перефразирования текстов, а также задач, требующих анализа и рассуждений на основе предоставленного контекста. Локальная работа позволяет не передавать пользовательские данные во внешние сервисы. Доступны варианты с разным уровнем квантования: F16 размером около 8 ГБ, Q8_0 около 4 ГБ и Q4_K_M около 2,5 ГБ; запуск возможен с использованием оперативной памяти или видеопамяти. Ключевое ограничение модели — небольшой размер относительно коммерческих LLM, поэтому она не предназначена для конкуренции с крупными системами общего назначения. В указанной версии модель не сохраняет историю диалога, и каждый запрос обрабатывается как новый разговор. Она также может генерировать неточную, вредную или вводящую в заблуждение информацию. Модель распространяется по специальной лицензии armeniangpt-license-1.0; условия использования приведены в файле LICENSE.

ganesh714/arq_m1_chairs_DS_r1_Q7 — дообученная языковая модель, разработанная ganesh714 на базе unsloth/deepseek-r1-distill-qwen-7b-unsloth-bnb-4bit. Это плотная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и 7,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Указанный размер контекста — до 131 072 токенов. Модель принимает текст и выдаёт текст. В карточке заявлена поддержка английского языка; метаданные также отмечают интерфейс вызова инструментов. Модель обучалась с использованием Unsloth и библиотеки TRL от Hugging Face. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результатов оценки качества или подробностей о специализированных сценариях дообучения, поэтому пригодность для конкретных задач следует проверять на собственных примерах.

Это GGUF-квантизированная версия языковой модели badger-lambda-llama-3-8b, разработанной maldv и подготовленной квантизатором bartowski. Модель основана на архитектуре Llama 3, содержит 8 млрд параметров и предназначена для генерации текста. Квантизация выполнена с использованием llama.cpp версии b3130 и метода imatrix, что позволяет запускать модель в форматах с различным соотношением качества, скорости и требований к памяти. Модель подходит для локального инференса и текстовых сценариев, включая диалоговую генерацию и обработку запросов в формате system/user/assistant. Доступны варианты от Q8_0 размером 8,54 ГБ до IQ2_XS размером 2,60 ГБ. Наиболее качественными считаются Q8_0 и Q6_K, а варианты Q5 и Q4 рекомендуются как компромисс между качеством и потреблением памяти; низкобитные варианты Q3 и Q2 требуют меньше ресурсов, но заметно уступают по качеству. В README не указаны поддерживаемые языки, длина контекста, точные характеристики исходной модели и результаты независимых тестов. Модель работает только с текстом, а качество и требования к ресурсам зависят от выбранного варианта квантизации. Лицензия — CC BY-NC 4.0, допускающая использование с некоммерческими ограничениями.

BBALAW1.0 — объединённая языковая модель, созданная автором репозитория Lawnakk с помощью mergekit и метода SLERP. В объединении использованы Qwen/Qwen2.5-7B и Qwen/Qwen2.5-Math-7B-Instruct; конфигурация сочетает их слои, а итоговая архитектура — плотная Qwen2ForCausalLM. Модель содержит 3,8 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового использования. Включение математической версии Qwen2.5 указывает на возможную полезность в задачах с математическим текстом, однако README не приводит результатов оценки или конкретных гарантий качества. Репозиторий содержит веса safetensors и использует библиотеку Transformers; метаданные отмечают интерфейс вызова инструментов. Сведения о лицензии в предоставленных данных отсутствуют.

Модель nickprock/bert-finetuned-ner-ontonotes — англоязычная модель распознавания именованных сущностей, разработанная на основе google-bert/bert-base-cased и дообученная на наборе OntoNotes 5. Она выполняет токенную классификацию и подходит для выделения сущностей в тексте, в том числе в текстах деловой тематики. Модель содержит 135,5 млн параметров, использует архитектуру BERT и принимает контекст длиной до 512 токенов. На оценочной выборке указаны F1 0,8702, точность 0,8567 и полнота 0,8842. Модель распространяется по лицензии Apache-2.0. Показатели получены на OntoNotes 5; качество на других доменах и типах текста может отличаться.

BLING Sheared-LLaMA 2.7B 0.1 — англоязычная инструкционная модель от llmware, дообученная для узкого круга задач с контекстом, включая сценарии RAG. Она построена на Sheared-LLaMA-2.7B и предназначена для локального запуска на ноутбуке, в том числе без специализированной квантизации, для прототипирования и работы с чувствительными корпоративными данными. Модель генерирует ответы на вопросы по предоставленному контексту, извлекает ключевые значения и выполняет базовое суммирование. В карточке приведены результаты тестирования RAG-Instruct-Benchmark-Tester: средняя оценка 90,25 из 100, при этом результаты по математике и логике ниже, чем по другим проверенным задачам. Архитектура — плотная LlamaForCausalLM, размер — 2,6 млрд параметров, контекст — 4096 токенов. Лицензия — Apache 2.0. Модель может давать неполные или неточные ответы; результаты следует проверять, особенно для сложных вопросов и математических задач. Оценка в карточке основана на двух тестовых прогонах и не гарантирует качество на других данных.

Brezn3 — объединённая чат-модель на архитектуре Mistral, созданная Johann Hartmann с помощью mergekit и метода DARE TIES. В качестве базовой модели использована LeoLM/leo-mistral-hessianai-7b-chat; в объединение также вошли WestSeverus-7B-DPO-v2, Wiedervereinigung-7b-dpo-laser и openchat-3.5-0106-laser. Модель предназначена для генерации текста и диалогов. Она содержит 7,1 млрд параметров, принимает текст и имеет контекстное окно 32 768 токенов. По описанию базовой модели, модель рассчитана прежде всего на немецкий и английский языки. В карточке указаны форматы Transformers и safetensors. Лицензия и отдельные сведения о качестве в предоставленных данных не приведены. Как и другие объединённые языковые модели, Brezn3 может генерировать неточные или вымышленные ответы; качество конкретных задач следует оценивать на собственных примерах.

Calme-7B-Instruct-v0.5-GGUF — набор квантованных файлов в формате GGUF для модели Calme-7B-Instruct-v0.5, разработанной MaziyarPanahi. Модель предназначена для генерации текста, диалоговых сценариев и выполнения инструкций в локальных приложениях, поддерживающих GGUF. Модель имеет размер около 7 млрд параметров и относится к текстовым языковым моделям; в метаданных также указан тег mistral, однако подробности архитектуры, языки и размер контекстного окна не приведены. Доступны варианты квантования от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между требованиями к памяти, скоростью и сохранением качества. Формат поддерживается llama.cpp, text-generation-webui, LM Studio, GPT4All, KoboldCpp и другими совместимыми инструментами. Главные преимущества — возможность запуска локально, широкий выбор уровней квантования и совместимость с популярной экосистемой GGUF. Ограничения связаны с потерями качества при использовании более агрессивного квантования, а также с отсутствием в README данных о результатах тестирования, языковой специализации, контекстном окне и конкретных требованиях к оборудованию. Для модели указана лицензия Apache 2.0.