II.6Документация и сопровождение разработки

TenyxChat-8x7B-v1 — диалоговая языковая модель от Tenyx, дообученная на базе Mixtral-8x7B-Instruct-v0.1 методом Direct Preference Optimization (DPO) на датасете UltraFeedback. Модель использует архитектуру Mixture of Experts Mixtral и предназначена для генерации ответов в формате чата. В метаданных указаны 7,1 млрд параметров и контекст до 32 768 токенов. Модель подходит для диалоговых помощников, написания и редактирования текстов, извлечения сведений, ответов на вопросы, а также задач по программированию и STEM. В опубликованном сравнении MT-Bench она получила средний балл 8,4; это результат конкретной оценки, а не гарантия качества в каждом сценарии. Модель принимает текст и генерирует текст. Карточка и метаданные указывают английский язык. Лицензия Apache 2.0 допускает коммерческое использование. Разработчики предупреждают, что модель не настраивали специально для соблюдения предпочтений безопасности людей; при провокационных запросах она может выдавать нежелательные ответы, испытывает трудности с рассуждениями и математикой и иногда отвечает многословно.

Tess-10.7B-v1.5 — универсальная большая языковая модель семейства Tess, разработанная Miquiztli. Она основана на SOLAR-10.7B и предназначена для генерации текста в диалоговом формате с ролями SYSTEM, USER и ASSISTANT. Модель подходит для ответов на вопросы, ведения диалога и других общих задач генерации текста. Модель использует плотную архитектуру LlamaForCausalLM, содержит 10,6 млрд параметров и имеет контекст длиной 4096 токенов. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0. В README указано, что для версии Tess-10.7B-v1.5b опубликованы оптимизации гиперпараметров.

Tess-XS-v1-3-yarn-128K — версия общего языкового семейства Tess, разработанная Migtissera на базе Nous Research Mistral-7B-yarn-128K. Это плотная авторегрессионная модель MistralForCausalLM с 7,1 млрд параметров для генерации текста. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Модель предназначена для генерации текста общего назначения в формате диалога с ролями SYSTEM, USER и ASSISTANT. В карточке указана длина контекста 32 768 токенов; автор сообщает о тестировании до 16 тысяч токенов и отмечает небольшие повторы около этой длины, поэтому для конкретных сценариев рекомендуется проверять качество и ограничивать контекст. Поддерживаемый язык в карточке не обозначен.

TheTop-7B-DPO-S2-v0.2 — объединённая Maziyar Panahi языковая модель на 7,1 млрд параметров, созданная методом SLERP из нескольких моделей класса 7B. Она использует архитектуру MistralForCausalLM и предназначена для генерации текста по текстовому запросу; заявленный контекст составляет 32 768 токенов. Модель подходит для диалогов, ответов на вопросы и других сценариев генерации текста. Веса опубликованы в формате Safetensors для Transformers. Лицензия — Apache 2.0.

Toffee 3B β — языковая модель-ассистент, разработанная zait-ai и дообученная на базе mistralai/Ministral-3-3B-Base-2512. Она предназначена для диалога и выполнения инструкций, включая общие вопросы, математические задачи и программирование. Модель использует плотную архитектуру семейства Mistral, содержит 3,2 млрд параметров и поддерживает контекст до 8192 токенов. Обучение проходило на смесях диалоговых, математических и программных инструкций. В карточке приведены результаты на MMLU, HellaSwag, BoolQ и Winogrande, однако сравнение с другими моделями обозначено как приблизительное из-за различий в настройках оценки. Основной язык — английский. Модель распространяется по лицензии MIT.

TriFusionNexus-7b — объединённая языковая модель, созданная EryriLabs с помощью mergekit и метода TIES на основе CultriX/NeuralTrix-7B-dpo; в объединение также вошли bardsai/jaskier-7b-dpo-v5.6 и mlabonne/AlphaMonarch-7B. Модель построена на архитектуре Mistral с плотной причинно-языковой сетью, содержит 7,1 млрд параметров и принимает контекст до 32 768 токенов. Модель предназначена для генерации текста, диалогов, следования инструкциям и рассуждений. В README приведены результаты Open LLM Leaderboard, включая средний балл 76,32, 72,78 в AI2 Reasoning Challenge и 89,17 в HellaSwag; это результаты указанных оценок, а не гарантия качества в пользовательских задачах. Репозиторий содержит веса в формате safetensors. Лицензия CC-BY-NC-2.0 ограничивает коммерческое использование.

Trinity Mini — открытая по весам разговорная языковая модель от Arcee AI, дообученная на базе arcee-ai/Trinity-Mini-Base. Это MoE-модель семейства AFMoE с 26 млрд параметров и 3 млрд активных параметров; в README указаны 128 экспертов, из которых активны 8 и один общий. Модель предназначена для диалогов и задач рассуждения, включая математику и программирование. Модель обучена на 10 трлн токенов. Длина контекста составляет 128 тыс. токенов. Метаданные указывают поддержку английского, испанского, французского, немецкого, итальянского, португальского, русского, арабского, хинди, корейского и китайского языков. Для запуска заявлена совместимость с Transformers, vLLM, llama.cpp, LM Studio и API. Указанная в README лицензия — OpenMDW-1.1; метаданные классифицируют лицензию как other.

bunnycore/Tulu-3.1-8B-SuperNova-Smart — объединённая языковая модель, созданная разработчиком bunnycore с помощью mergekit. В слиянии методом passthrough использованы bunnycore/Tulu-3.1-8B-SuperNova и bunnycore/Llama-3.1-8b-smart-lora; модель основана на архитектуре Llama и содержит 7,5 млрд параметров. Модель предназначена для генерации текста и диалогов. Её можно применять для ответов на вопросы, следования инструкциям и интерфейсов с вызовом инструментов. Указанная длина контекста — 131 072 токена. Данные не описывают поддерживаемые естественные языки и условия лицензии, поэтому их нельзя надёжно указать.

UltraHermes-Merge — объединённая диалоговая языковая модель, созданная Cas-Warehouse с помощью mergekit. В основе слияния — mlabonne/NeuralHermes-2.5-Mistral-7B; также объединены argilla/CapybaraHermes-2.5-Mistral-7B, joey00072/ToxicHermes-2.5-Mistral-7B и openaccess-ai-collective/DPOpenHermes-7B-v2. Использован метод TIES. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и имеет контекстное окно до 32 768 токенов. Она предназначена для диалога, ответов на инструкции и генерации текста. Доступна в формате safetensors и использует библиотеку Transformers. В карточке не приведены сведения о лицензии и конкретном перечне поддерживаемых языков. Как и другие генеративные языковые модели, она может выдавать неточные или нежелательные ответы; пригодность результатов следует проверять для целевого применения.

UwU-Qwen2.5-32B — объединённая языковая модель, созданная nbeerbower методом TIES с помощью mergekit на основе Qwen/Qwen2.5-32B и пяти других моделей семейства QwQ и Qwen. Это плотная авторегрессионная архитектура Qwen2 с 32 млрд параметров, предназначенная для генерации текста и диалогов; поддерживает интерфейс вызова инструментов. Контекст составляет до 131 072 токенов. Модель подходит для диалоговых сценариев, генерации и продолжения текста, а также работы с длинными запросами. В метаданных перечислена поддержка китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Файлы представлены в формате safetensors. Лицензия в предоставленных данных не указана.

ValidateAI-3-33B-Ties — объединённая модель для генерации программного кода и диалогов о нём. В README указано слияние DeepSeek Coder 33B Instruct, WizardCoder-33B-V1.1 и CodeFuse-DeepSeek-33B методом TIES с помощью LazyMergekit; метаданные описывают архитектуру как плотную LlamaForCausalLM с 33,1 млрд параметров. Модель принимает текст и выдаёт текст, поддерживает контекст до 16 384 токенов и рассчитана на диалоговое взаимодействие. Модель подходит для генерации и дополнения кода, ответов на вопросы по программированию и объяснения кода. В карточке указана лицензия Apache-2.0. README содержит несоответствие в названии: заголовок называет модель ValidateAI-2-33B-Ties, тогда как идентификатор репозитория — ValidateAI-3-33B-Ties.

Velara-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная объединением mistralai/Mistral-7B-Instruct-v0.2 и Delcos/Velara методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и ответов на инструкции в формате диалога; максимальный контекст составляет 32 768 токенов. Объединение настроено отдельно для слоёв self-attention и MLP, а веса представлены в формате safetensors. Модель принимает текст и генерирует текст. Карточка не уточняет специализацию Velara или сравнительные показатели качества. Лицензия — Apache-2.0.

VICIOUS_MESH-12B-NEMO — текстовая генеративная модель на 12,1 млрд параметров, созданная автором репозитория методом слияния TIES с помощью mergekit. В качестве основы использована mistralai/Mistral-Nemo-Instruct-2407, а в слияние также вошла bamec66557/VICIOUS_MESH-12B-BETA. Модель построена на архитектуре MistralForCausalLM и предназначена для диалога и генерации текста по запросу; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов. В README приведены результаты оценок Open LLM Leaderboard, включая IFEval и BBH, но они сами по себе не гарантируют качество на пользовательских задачах. Репозиторий распространяется по лицензии Apache-2.0. Языки отдельно не перечислены; языковые возможности унаследованы от базовой модели Mistral Nemo Instruct.

WestOrcaNeural-V2-DARETIES-7B — языковая модель для генерации текста, созданная объединением моделей с помощью mergekit. В основе лежит Mistral-7B-v0.1; в слияние также вошли kellemar-DPO-Orca-Distilled-7B-SLERP, WestLake-7B-v2 и NeuralBeagle14-7B. Использован метод DARE-TIES, итоговые веса имеют точность float16. Модель содержит 7,1 млрд параметров, построена на плотной архитектуре Mistral и поддерживает контекст длиной до 32 768 токенов. Карточка приводит результаты оценок на задачах рассуждения и понимания текста, включая AI2 Reasoning Challenge и HellaSwag. Лицензия — Apache-2.0.

Fmuaddib выпустил конвертированную в формат MLX модель WhiteRabbitNeo-2.5-Qwen-2.5-Coder-12.3B-mlx-fp16 на основе win10/WhiteRabbitNeo-2.5-Qwen-2.5-Coder-12.3B. Это плотная авторегрессионная модель семейства Qwen2 с 11,7 млрд параметров, предназначенная для генерации текста в диалоговом режиме; в названии и базовой модели указана специализация на программировании. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. README сообщает о конвертации из исходного репозитория в MLX с помощью mlx-lm версии 0.22.3; метаданные указывают формат файлов safetensors. Условия лицензии в предоставленных данных не приведены.

WiNGPT-Babel-2 — многоязычная языковая модель для машинного перевода, разработанная командой WiNGPT. Это дообученная модель Gemma 2 с плотной архитектурой Gemma2ForCausalLM и 2,7 млрд параметров. Она предназначена прежде всего для перевода с английского на другие языки и с разных языков на китайский; заявлена поддержка 55 языков. Модель также поддерживает диалоговый режим и переводит текстовые поля в структурированных данных, сохраняя формат JSON, а также работает с текстом, содержащим формулы LaTeX, код и HTML/Markdown-разметку. Для обучения использовались WMT24++ и внутренние данные, отобранные с участием человека по результатам анализа журналов реальных сценариев. Контекстное окно в метаданных указано как 8192 токена; в README приведено значение 4096 токенов. Модель доступна в формате safetensors под лицензией Apache-2.0. Заявления об улучшении точности и качестве перевода приведены в карточке модели; численные результаты оценки в README опущены.

aijadugar/wisprflow-clone-llm — языковая модель для генерации текста, размещённая на Hugging Face и предназначенная для использования через библиотеку Transformers. По метаданным модель относится к семейству Qwen2 и имеет около 7,1 млрд параметров, поддерживает контекст длиной до 32 768 токенов и распространяется в формате Safetensors. Модель может применяться для диалоговой генерации ответов, продолжения текста, создания черновиков и других сценариев, основанных на text-generation. В метаданных также указан conversational-тег, поэтому модель ориентирована на работу с многошаговыми текстовыми взаимодействиями. README не содержит сведений о разработчике, лицензии, языках, обучающих данных и результатах оценки.

XVERSE-65B — мультиязычная базовая большая языковая модель, самостоятельно разработанная компанией Shenzhen Yuanxiang Technology. Она построена на плотной архитектуре Decoder-only Transformer и предназначена для генерации текста, включая продолжение запросов и подготовку материалов для многошагового диалога, ответов на вопросы и суммаризации. В модели 65,6 млрд параметров, контекст — до 16 384 токенов; она использует BPE-токенизатор с словарём из 100 534 токенов и распространяется в формате PyTorch. Модель обучена на 2,6 трлн токенов из веб-страниц, кода, энциклопедий, книг, научных публикаций и других источников. README указывает поддержку 41 естественного языка, включая китайский, английский, русский и испанский; наибольшие доли обучающих данных приходятся на английский и китайский. Лицензия Apache-2.0. Это базовая, а не специально настроенная для диалога модель, поэтому качество следования инструкциям и ответы в формате ассистента не гарантируются; возможны ошибки и смещения, характерные для генеративных языковых моделей.

Xwen-72B-Chat — диалоговая языковая модель команды Xwen, дообученная на базе Qwen2.5-72B. Модель имеет плотную архитектуру Qwen2 и 71,5 млрд параметров; она предназначена для генерации текста и ведения диалогов, включая сценарии с интерфейсом вызова инструментов. Заявленная длина контекста — 131 072 токена. Модель ориентирована на ответы на вопросы, диалоговое взаимодействие и другие задачи генерации текста. В README приведены результаты сравнительных оценок Arena-Hard-Auto, AlignBench и MT-Bench, однако авторы предупреждают, что некоторые сравнения используют заменённые модели-судьи, а результаты других бенчмарков ещё планировалось добавить. Карточка также отмечает, что ответы о личности модели и её разработчиках могут быть случайными, поскольку её идентичность специально не настраивали. Модель опубликована в формате Safetensors и доступна по лицензии Apache-2.0. Отдельные репозитории команды содержат варианты Xwen-72B-Chat в GGUF с различными видами квантования; они не являются форматом данного репозитория.

YamshadowInex12_NeuralExperiment26 — слитая модель семейства Mistral с 7,1 млрд параметров, созданная из automerger/YamshadowInex12-7B и automerger/NeuralExperiment26-7B. Она предназначена для генерации текста и работы с запросами в пределах контекстного окна до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0.

YamshadowStrangemerges_32_Inex12Strangemerges_32 — объединённая модель для генерации текста, созданная путём слияния моделей automerger/YamshadowStrangemerges_32-7B и automerger/Inex12Strangemerges_32-7B. Она построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста с контекстом до 32 768 токенов. Веса представлены в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0. Доступные сведения не описывают специализацию модели или её конкретные ограничения.

YamshadowStrangemerges_32_NeuralsirkrishnaExperiment26 — слитая авторами репозитория модель семейства Mistral с 7,1 млрд параметров для генерации текста. Она объединяет модели automerger/YamshadowStrangemerges_32-7B и automerger/NeuralsirkrishnaExperiment26-7B и предназначена для сценариев, где требуется генерировать текст по текстовому запросу. Модель использует плотную архитектуру MistralForCausalLM, принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Веса опубликованы в формате Safetensors. В карточке не приведены сведения о специализации по языкам или прикладным областям, поэтому модель можно описать как общего назначения. Лицензия — Apache-2.0.

YamshadowStrangemerges_32_OgnoExperiment27 — слитая языковая модель на архитектуре Mistral, созданная объединением automerger/YamshadowStrangemerges_32-7B и automerger/OgnoExperiment27-7B. Она предназначена для генерации текста и диалоговых ответов по текстовым запросам. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Веса представлены в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0.

YamshadowStrangemerges_32_YamExperiment26 — объединённая модель для генерации текста, созданная на основе automerger/YamshadowStrangemerges_32-7B и automerger/YamExperiment26-7B. Она использует плотную архитектуру Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в сценариях, где требуется обрабатывать длинные запросы и контекст. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Это вариант Zephyr-7B-Beta, опубликованный arnavgrg: модель MistralForCausalLM с плотной архитектурой и примерно 7,1 млрд параметров. Это разговорная модель для генерации текста, которую можно загружать через Transformers в формате fp16; заявленная длина контекста — 32 768 токенов. Модель создана из HuggingFaceH4/zephyr-7b-beta: исходные веса линейных слоёв были квантованы до NF4 с помощью bitsandbytes, после чего слои Linear4bit были преобразованы обратно в fp16. Такой вариант рассчитан на инференс без затрат на квантование и обратное преобразование при каждом проходе. Квантование с потерями ухудшает качество относительно официальной базовой модели. Репозиторий распространяется по лицензии Apache-2.0.

Zephyr ORPO 141B-A35B v0.1 — разговорная языковая модель, совместно обученная Argilla, KAIST и Hugging Face. Это дообученная с помощью Odds Ratio Preference Optimization (ORPO) модель mistral-community/Mixtral-8x22B-v0.1 с архитектурой Mixture of Experts (MoE): в карточке указаны 141 млрд параметров всего и 39 млрд активных, тогда как метаданные каталога указывают 22 млрд параметров. Для каталога также заявлен контекст до 65 536 токенов. Модель предназначена для диалогового ассистирования и общих задач с текстом, включая код, математику и рассуждения. В обучении использован датасет argilla/distilabel-capybara-dpo-7k-binarized с синтетическими многоходовыми предпочтениями. README сообщает о сильных результатах на MT Bench и IFEval, но обучение описано как проверка ORPO в большом масштабе, а не как выпуск универсальной системы с гарантированным качеством. Основной язык — английский. Модель принимает текст и генерирует текст; метаданные отмечают поддержку чата. Лицензия — Apache 2.0. В README предупреждается, что модель не проходила этап RLHF для выравнивания по человеческим предпочтениям в области безопасности и может выдавать проблемные ответы, особенно при соответствующих запросах.

ZEUS 8B V13 — диалоговая языковая модель, созданная T145 слиянием моделей методом DARE TIES. В качестве основы использована unsloth/Meta-Llama-3.1-8B-Instruct; в слияние также вошли arcee-ai/Llama-3.1-SuperNova-Lite, unsloth/Llama-3.1-Storm-8B и Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров. Она предназначена для генерации текста и диалогов, принимает текст и выдаёт текст; заявленная длина контекста — до 131 072 токенов. В README приведены результаты оценки на Open LLM Leaderboard, включая 78,78% на IFEval и 31,78% на BBH. Модель распространяется по лицензии Llama 3.1. Количественных гарантий качества для конкретных сценариев карточка не даёт; результаты тестов не заменяют проверку на целевых задачах.

ZEUS-8B-V19 — объединённая языковая модель семейства Llama 3.1, созданная T145 с помощью mergekit и метода DARE TIES. В основу слияния положена unsloth/Meta-Llama-3.1-8B-Instruct; также объединены Llama-3.1-SuperNova-Lite, Llama-3.1-Storm-8B, Llama-3.1-SauerkrautLM-8b-Instruct и Llama-3.1-8B-Lexi-Uncensored-V2. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors. Она предназначена для диалогов и генерации текста, поддерживает интерфейс вызова инструментов и контекст до 131 072 токенов. Карточка приводит результаты оценивания на IFEval и BBH. Лицензия в предоставленных данных не указана.

ZEUS-8B-V24 — объединённая языковая модель семейства Llama 3.1, созданная автором карточки с помощью mergekit и метода DARE TIES. В объединение вошли инструкционная модель unsloth/Meta-Llama-3.1-8B-Instruct и несколько других моделей Llama 3.1, включая варианты для диалога, рассуждений и медицинских ответов. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; длина контекста — до 131 072 токенов. Модель предназначена для генерации текста и диалогов, включая ответы на инструкции и задачи, где полезны рассуждения. Метаданные также отмечают интерфейс вызова инструментов. В README приведены результаты Open LLM Leaderboard, в том числе 60% на IFEval и 26,15% на BBH; эти оценки не гарантируют качество в конкретном сценарии. Лицензия в предоставленных сведениях не указана.

ZEUS-8B-V8 — объединённая языковая модель, опубликованная пользователем T145 и созданная с помощью mergekit. В основе объединения лежит unsloth/Meta-Llama-3.1-8B-Instruct; также использованы SicariusSicariiStuff/LLAMA-3_8B_Unaligned_BETA, arcee-ai/Llama-3.1-SuperNova-Lite и akjindal53244/Llama-3.1-Storm-8B. Применён метод DARE TIES. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и предназначена для генерации текста и диалогового взаимодействия. Заявленная длина контекста — до 131 072 токенов; поддерживаются интерфейсы чата и вызова инструментов. В карточке приведены результаты оценивания, включая IFEval и BBH. Модель принимает текст и генерирует текст. README не уточняет языковой охват и не описывает детально ограничения качества. Лицензия — llama3.1.