III.10Проекты, процессы и операционное управление

Карточка модели SouthMemphis/Saiga на Hugging Face совпадает с карточкой IlyaGusev/saiga_mistral_7b_merged, поэтому описание составлено по ней. IlyaGusev/saiga_mistral_7b_merged — объединённая версия модели семейства Mistral, предназначенная для генерации текста. По метаданным это плотная авторегрессионная модель MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. В README указано, что существуют версии GGUF и квантизации TheBloke, но данный репозиторий содержит веса PyTorch. Модель ориентирована на русскоязычные запросы; метаданные связывают её с русскоязычными наборами инструкций и диалогов. Её можно использовать для ответов на вопросы, диалогов и выполнения текстовых инструкций на русском языке. Лицензия — Apache-2.0. README не раскрывает, какие именно модели были объединены и как выполнялось слияние.

arcee-ai/saul-zephyr-7b-slerp — объединённая методом SLERP модель на основе Equall/Saul-Base и HuggingFaceH4/zephyr-7b-beta, созданная с помощью mergekit. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста в формате чат-диалога и выполнения пользовательских инструкций. Контекстное окно составляет до 32 768 токенов; модель принимает текст и генерирует текст. Модель сочетает компоненты базовой модели Saul-Base и англоязычной чат-модели Zephyr-7B-β. Репозиторий распространяется в формате safetensors по лицензии Apache-2.0. В карточке описан метод слияния, но сравнительные оценки качества и подробные ограничения не приведены.

TAIDE-LX-7B-Chat — диалоговая языковая модель проекта TAIDE, разработанная для тайваньского языка и культурного контекста. Она основана на TAIDE-LX-7B, которая, в свою очередь, использует LLaMA 2 7B и предварительно обучена на традиционных китайских текстах; версия Chat дополнительно прошла настройку по инструкциям для офисных задач и многоходового диалога. В репозитории указаны 7 млрд параметров и контекст до 4K токенов. Модель предназначена для диалоговых ответов и помощи с повседневными офисными задачами: составления и редактирования текстов, писем и статей, автоматического суммирования, перевода между китайским и английским. Она усилена для традиционного китайского языка, включая тайваньскую лексику, культуру и местные реалии. Основной язык — традиционный китайский; в примерах также показаны ответы на английском и перевод между английским и китайским. Модель принимает текст и генерирует текст. Для загрузки токенизатора README рекомендует медленный режим (`use_fast=False`) и приводит шаблоны запросов для одиночного и многоходового диалога. Метаданные указывают формат safetensors и возможность чата. Лицензия обозначена как `other`; конкретные условия в предоставленных данных не раскрыты. Как и другие генеративные языковые модели, она может выдавать неточные ответы; README не приводит количественной оценки качества.

Tess-3-Mistral-Nemo-12B — универсальная большая языковая модель из серии Tess, созданной Migel Tissera; вычислительные ресурсы для её разработки предоставила KindoAI. Это плотная авторегрессионная модель архитектуры Mistral на 12,1 млрд параметров, рассчитанная на диалог и генерацию текста. В метаданных указан контекст до 1 024 000 токенов, а веса доступны в формате safetensors. Модель подходит для общения с пользователем и генерации текста общего назначения. В README приведены результаты Open LLM Leaderboard: средний показатель 16,54, IFEval (0-shot) — 33,55, BBH (3-shot) — 28,04; эти оценки дают ориентир по отдельным тестам, но не гарантируют качество в конкретном сценарии. README не уточняет поддерживаемые языки и дополнительные ограничения применения. Лицензия — Apache-2.0.

YamshadowExperiment27pastiche-7B — текстовая генеративная модель на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Это автоматическое объединение моделей, созданное Maxime Labonne; в конфигурации указаны YamShadow-7B и Experiment27Pastiche-7B, метод DARE-TIES. Модель предназначена для генерации текста и диалоговых ответов. Формат весов — safetensors. Лицензия — Apache-2.0.

YamshadowStrangemerges_32_Experiment24Yam — объединённая текстовая модель семейства Mistral, созданная на основе automerger/YamshadowStrangemerges_32-7B и automerger/Experiment24Yam-7B. Она предназначена для генерации текста по текстовому запросу и может использоваться в диалоговых и других сценариях генерации.

YamshadowStrangemerges_32_T3qm7xStrangemerges_32 — объединённая текстовая модель, созданная из automerger/YamshadowStrangemerges_32-7B и automerger/T3qm7xStrangemerges_32-7B. Она предназначена для генерации текста и работает на плотной архитектуре Mistral с 7,1 млрд параметров; контекст — до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не сообщает о специализированной предметной области или конкретных ограничениях качества.

Zamba2-2.7B-Instruct-v2 — диалоговая языковая модель Zyphra, дообученная на базе Zyphra/Zamba2-2.7B с помощью SFT и DPO на наборах инструкций, диалогов, рассуждений, математики и предпочтений. Она предназначена для генерации ответов и следования текстовым инструкциям в чат-сценариях. Модель использует гибридную плотную архитектуру: слои Mamba2 чередуются с общими слоями внимания Transformer, дополненными LoRA-проекциями. В карточке указано 2,66 млрд параметров, тогда как метаданные каталога сообщают 5,7 млрд; контекст составляет до 4096 токенов. Модель работает с текстом и выдаёт текст. Разработчик заявляет о низкой задержке и меньшем расходе памяти по сравнению с сопоставимыми Transformer-моделями; для ускоренного запуска рекомендуются ядра Mamba2, поскольку без них задержка и расход памяти заметно возрастают. Модель опубликована под лицензией Apache-2.0. В README приведены результаты на ряде тестов, но они не гарантируют качество для конкретных запросов; сведения о поддерживаемых языках не приведены.

AiMaven-Merkaba-1.2 — объединённая языковая модель jefferylovely на архитектуре Mistral с 7,1 млрд параметров. Она создана методом слияния Slerp с помощью LazyMergekit на основе jefferylovely/AiMaven-Merkaba-1.1 и jefferylovely/Merkaba-Maven-0.8. Модель предназначена для генерации текста и работает с контекстом до 32 768 токенов. В карточке указаны формат safetensors и лицензия CC BY-NC-ND 4.0, которая ограничивает коммерческое использование и распространение производных версий.

AlloyingotneoyExperiment26-7B — объединённая Maxime Labonne модель генерации текста на базе архитектуры Mistral. Она создана методом DARE-TIES из nlpguy/AlloyIngotNeoY и yam-peleg/Experiment26-7B; в метаданных базовой моделью также указана yam-peleg/Experiment26-7B. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM, веса представлены в safetensors, контекст — до 32 768 токенов. Модель предназначена для генерации текста. Доступные сведения не описывают отдельные специализированные сценарии или языки, поэтому её можно характеризовать как текстовую модель общего назначения. Указанная лицензия — Apache-2.0. Карточка не содержит оценок качества или подробных ограничений применения.

BLOSSOM-v4-baichuan2-7b — диалоговая языковая модель, созданная на основе Baichuan2-7B-Base и дообученная разработчиками BLOSSOM на смешанных наборах инструкций Orca, Wizard, Chat и Math. Обучение проходило в два этапа: сначала на одноходовых инструкциях, включая математические, затем на многоходовых диалогах с небольшой долей данных первого этапа. Модель предназначена для генерации ответов в формате диалога, понимания контекста беседы и выполнения общих инструкций на китайском и английском языках. Это плотная трансформерная модель Baichuan с 7 млрд параметров и контекстом до 4096 токенов. Лицензия — Apache-2.0. Модель поддерживает общие диалоговые задачи и инструкции, в том числе задачи из математических данных обучения. Качество и точность ответов могут различаться в зависимости от запроса; численные оценки качества в карточке не приведены. Для корректной работы следует использовать указанный в карточке шаблон диалога.

BLOSSOM-v4-qwen-18b — диалоговая языковая модель, разработанная командой Blossom и полученная дообучением Qwen-1_8B на смесях данных Blossom Orca, Wizard, Chat и Math. Модель использует плотную архитектуру Qwen с 2,3 млрд параметров и контекстом до 8192 токенов; репозиторий содержит веса PyTorch. Она предназначена для генерации ответов в формате диалога и общего следования инструкциям, включая задачи на понимание текста и математику. Обучение проходило в два этапа на одно- и многоходовых примерах.

Experiment26Neuralsirkrishna_Ognoexperiment27M7 — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием моделей automerger/Experiment26Neuralsirkrishna-7B и automerger/Ognoexperiment27M7-7B и предназначена для генерации текста и диалогов. Модель принимает текст и генерирует текст; размер её контекста составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Данных о специальных предметных областях и подтверждённых ограничениях качества в карточке нет.

Franken-Merlinite-Maid 7B Slerp — слитая языковая модель, созданная ND911 с помощью mergekit методом SLERP из ND911/Fraken-Maid-TW-K-Slerp и ibm/merlinite-7b. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM, примерно 7,1 млрд параметров и контекстом до 8192 токенов. Она предназначена для генерации текста. Репозиторий содержит веса в формате safetensors; метаданные указывают библиотеку Transformers. Лицензия в предоставленных данных не указана.

GPT4 x Alpaca — языковая модель семейства LLaMA, разработанная maicomputer. Модель содержит 12,9 млрд параметров и дообучена в течение трёх эпох на ответах GPT-4; в качестве базовой модели использована Alpaca-13B. Она предназначена для генерации текста и диалоговых ответов. В карточке приведены результаты оценки на ARC и HellaSwag.

h2oai/h2ogpt-oasst1-512-12b — языковая модель H2O.ai на архитектуре GPT-NeoX с 15,4 млрд параметров. Она дообучена на наборе h2oai/openassistant_oasst1_h2ogpt_graded на основе EleutherAI/pythia-12b и предназначена для следования инструкциям и диалогового использования, например в чат-ботах. Модель принимает текст и генерирует текст; опубликована в формате PyTorch и рассчитана на контекст до 2048 токенов. Модель можно применять для ответов на вопросы, диалогов и выполнения текстовых инструкций. В README приведены результаты проверки на задачах из lm-evaluation-harness. Лицензия Apache-2.0 допускает коммерческое использование. Модель может выдавать неверные, бессвязные или нерелевантные ответы, а также предвзятый или оскорбительный контент; результаты следует проверять.

juanako-7b-UNA-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением mistralai/Mistral-7B-Instruct-v0.2 и fblgit/juanako-7b-UNA методом SLERP с помощью MergeKit. Это плотная модель Mistral с 7,1 млрд параметров для генерации текста и общения в формате инструкций. Она рассчитана на диалоговые сценарии и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст; в метаданных заявлена поддержка чата. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. Карточка не приводит результатов сравнительных оценок качества или подробностей о языковом охвате, поэтому применимость для конкретного языка или задачи следует проверять отдельно.

L3.1-Artemis-h-8B — объединённая языковая модель на базе архитектуры Llama, созданная сообществом mergekit с помощью метода Model Stock. В качестве базовой модели использована kromeurus/L3.1-Ablaze-Vulca-v0.1-8B; в объединение также вошли DeepSeek-R1-Distill-Llama-8B, L3-Boshima-a, NeuralDaredevil-8B-abliterated и L3-Umbral-Mind-RP-v3.0-8B. Модель предназначена для генерации текста и диалогового взаимодействия. Она содержит 7,5 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 131 072 токена. Репозиторий содержит веса в формате safetensors и рассчитан на работу через Transformers. Карточка не описывает отдельные гарантии качества, языковой охват или условия лицензии, поэтому их нельзя уточнить по доступным сведениям.

LeoLM/leo-mistral-hessianai-7b-chat — немецкоязычная чат-модель LAION и HessianAI, созданная дообучением LeoLM/leo-mistral-hessianai-7b на немецких инструкционных наборах данных. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров, предназначенная для диалога, написания текстов, объяснений и обсуждений. Она поддерживает немецкий и английский языки; нативное контекстное окно — 32 768 токенов. В оценке MT-Bench-DE модель лучше справлялась с гуманитарными темами, естественно-научными вопросами, письмом и ролевыми диалогами, но слабее показала себя в математике и сложных рассуждениях. Как и другие языковые модели, она может выдавать неточную, предвзятую или нежелательную информацию, поэтому перед применением в конкретных продуктах её следует проверить и настроить. Распространяется по лицензии Apache 2.0.

Lite-Cydonia-22B-v1.1-50-50 — плотная языковая модель на архитектуре Mistral с 22 млрд параметров, созданная knifeayumu слиянием двух моделей через mergekit: mistralai/Mistral-Small-Instruct-2409 и TheDrummer/Cydonia-22B-v1.1. Веса объединены методом task arithmetic с равным вкладом каждой модели; опубликованный репозиторий содержит формат safetensors. Модель предназначена для диалогов и генерации текста, включая творческие ответы. По описанию автора, смесь получилась менее склонной к откровенно злонамеренным ответам и менее цензурированной, чем исходная инструкционная модель; автор также отмечает более разнообразные ответы по сравнению с некоторыми версиями Cydonia. Контекст составляет до 32 768 токенов. Модель рассчитана на текстовый ввод и текстовый вывод. Лицензия указана как other; конкретные условия использования следует сверять с карточкой модели и лицензиями базовых моделей. Оценка поведения основана на кратких проверках автора, поэтому её не следует считать гарантией безопасности или качества: ответы могут зависеть от формулировки запроса.

LLaDA-8B-Instruct — диффузионная языковая модель с плотной архитектурой LLaDA, разработанная командой GSAI-ML и обученная с нуля. Модель содержит 8 млрд параметров и предназначена для генерации текста в диалоговом режиме. Авторы сообщают, что по результатам их оценки модель сопоставима по производительности с LLaMA 3 8B. Веса опубликованы в формате safetensors; модель работает через библиотеку Transformers и распространяется по лицензии MIT. Данных о поддерживаемых естественных языках и длине контекста в предоставленной карточке нет.

Posicube Inc. разработала Posicube/Llama2-chat-AYB-13B — диалоговую плотную языковую модель на архитектуре Llama 2 с 12,9 млрд параметров. Модель создана на основе Llama-2-13b-chat-hf с использованием ансамблирования моделей, показавших высокие результаты в бенчмарках; в обучении применялись наборы данных в стилях Orca и Alpaca. Она предназначена для генерации текста и ответов в диалоге. Контекст составляет 4096 токенов; модель работает с текстом, а оценка в карточке описана для английских тестов ARC, HellaSwag и MMLU. Разработчик сообщает, что на момент публикации в октябре 2023 года модель занимала первое место среди моделей с 13 млрд параметров на упомянутых бенчмарках. Модель распространяется в формате safetensors по лицензии Llama 2. Как и другие большие языковые модели, она может выдавать неточные, предвзятые или нежелательные ответы; перед применением рекомендуется проверять её на сценариях конкретного продукта. Заявленная оценка охватывает английские тесты и не подтверждает качество во всех сценариях.

ruslandev/llama-3-8b-gpt-4o-ru1.0 — диалоговая языковая модель, дообученная автором на базе Meta Llama 3 8B Instruct. Обучение продолжалось одну эпоху на двух NVIDIA A100 на наборе примеров, сформированном из подмножества Tagengo GPT-4 и улучшенном с помощью GPT-4o; около 80% примеров ориентированы на русский язык. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для диалогов и генерации ответов, особенно на русском языке. В карточке автор приводит результаты MT-Bench: 8,12 для русского и 8,01 для английского; эти оценки отражают заявленную автором проверку. Модель доступна в форматах PyTorch и Safetensors, а для локального запуска автор также указывает отдельную GGUF-версию. Лицензия — Llama 3 License.

Llama3-PBM-Nova-70B — диалоговая языковая модель, разработанная PKU-Baichuan-MLSysLab на основе Llama-3-70B. Модель содержит 69,5 млрд параметров, использует плотную архитектуру Llama и рассчитана на контекст до 8192 токенов. Для адаптации к диалогам базовую модель дообучили с помощью supervised fine-tuning (SFT) и обучения с подкреплением на основе обратной связи людей (RLHF), используя очищенные и синтетические открытые данные. Модель предназначена для генерации текста в формате чата и может применяться для ответов на вопросы, ведения диалогов и подготовки текстовых черновиков. В README приведены результаты сравнительных оценок на Arena-Hard, MixEval-Hard и Alpaca-Eval 2.0, но эти показатели не гарантируют качество в конкретных сценариях. Доступны веса в формате safetensors для библиотеки Transformers. Лицензия — Llama 3 License; перед использованием следует учитывать её условия.

II-8B-SFT — текстовая модель генерации на архитектуре Llama, дообученная автором репозитория на наборе allenai/tulu-3-sft-mixture с помощью Axolotl. Она содержит 7,5 млрд параметров, принимает текст и предназначена для диалоговых сценариев и генерации ответов. Заявленная длина контекста — 131 072 токена. Модель основана на meta-llama/Llama-3.1-8B и распространяется в форматах PyTorch и Safetensors по лицензии Llama 3.1. Карточка не приводит результатов оценки и подробных рекомендаций по применению; качество и ограничения для конкретных задач следует проверять отдельно.

Lumiere-120b — языковая модель для генерации текста и диалогов, созданная разработчиком bcse путём линейного слияния двух моделей с помощью mergekit: Undi95/Miqu-70B-Alpaca-DPO и Sao10K/Euryale-1.3-L2-70B. Модель основана на архитектуре Llama и содержит около 120,1 млрд параметров; для загрузки доступны веса в формате safetensors, а также упомянуты варианты GGUF. Модель предназначена для генерации ответов в диалоге и выполнения текстовых запросов. Контекстное окно составляет 32 764 токена. В карточке не описаны специальные предметные области или наборы поддерживаемых языков; базовая Miqu-модель настроена для ответов на инструкции в формате Alpaca. Лицензия в предоставленных сведениях не указана.

Luminum-v0.1-123B — объединённая языковая модель FluffyKaeloky на архитектуре MistralForCausalLM, созданная с помощью метода della_linear на основе Mistral Large Instruct 2407 с добавлением Lumimaid-v0.2-123B и Magnum-v2-123B. Модель содержит 122,2 млрд параметров и поддерживает контекст до 131 072 токенов; автор сообщает об успешном тестировании длинных запросов свыше 32 тысяч токенов, обычно до 40–50 тысяч. Модель предназначена для диалогов, генерации текста и творческих описаний. По оценке автора, она сочетает возможности базовой Mistral Large, характерную лексику Lumimaid и описательность Magnum, сохраняя ответы менее многословными, чем Magnum. Используется шаблон Mistral [INST] ... [/INST]; заявлены интерфейс вызова инструментов и варианты файлов GGUF и EXL2. Модель может выдавать чрезмерно длинные ответы, если не ограничивать их длину. README не сообщает лицензию; условия использования следует сверить с карточкой и лицензиями компонентов слияния.

miiqu-f16 — разговорная языковая модель от Infinimol AI GmbH на архитектуре Llama, представленная в формате safetensors для Transformers. Модель рассчитана на генерацию текста и диалоговое взаимодействие; в README также приведён результат на EQ-Bench — 8-е место в сравнении с несколькими крупными чат-моделями. Заявленное окно контекста — 32 768 токенов. Модель содержит 90,1 млрд параметров по метаданным. README сообщает, что она создана без дообучения и дополнительного обучения; метаданные помечают её как слияние, поэтому происхождение следует считать слиянием моделей. Доступны варианты GGUF Q4_K_M и EXL2 5.0 bpw. Для диалогов указаны шаблоны ChatML и Mistral. Метаданные отмечают поддержку английского, немецкого, французского, испанского и итальянского языков. Лицензия обозначена как other, без конкретных условий в предоставленных данных.

Mira 70B v0.8 — русскоязычная модель генерации текста на архитектуре LLaMA 70B v2, представленная автором как крупная русская модель. По карточке, модель обучалась методом TRINITY в течение 60 часов на Nvidia H100. Для запросов используется формат с ролями Human и Assistant и специальными разделителями. Модель предназначена для генерации ответов на русском языке в диалоговом формате и других задач создания текста. Она содержит 68,7 млрд параметров, имеет плотную архитектуру LlamaForCausalLM и нативный контекст 4096 токенов. Файлы представлены в формате PyTorch. Модель выпущена под лицензией Apache-2.0. Версия обозначена как 0.8; карточка не приводит оценок качества и подробностей обучения, поэтому пригодность для конкретных сценариев следует проверять отдельно.

Mistral-2.5-Prima-Hercules-Fusion-7B — объединённая языковая модель на архитектуре Mistral, созданная слиянием hydra-project/ChatHercules-2.5-Mistral-7B и Nitral-Archive/Prima-Pastacles-7b методом SLERP. Модель содержит 7,1 млрд параметров, работает с текстом и имеет контекстное окно до 32 768 токенов. Опубликована в формате safetensors и доступна по лицензии Apache-2.0. Модель предназначена для диалоговых ассистентов и многоходовых бесед, а также для генерации контента, ролевых сценариев, обучения и технической поддержки. В карточке заявлены улучшенное удержание контекста и сочетание диалоговых возможностей Hercules с адаптивностью Prima; независимые результаты оценки не приведены. Для качественной работы в специализированных сценариях автор рекомендует дополнительное дообучение. Запуск требует достаточных вычислительных ресурсов, особенно при инференсе на GPU.