II.6Документация и сопровождение разработки

Xaberius 34B v1-beta — экспериментальная языковая модель, разработанная juanako.ai и основанная на LLaMa-Yi-34B. Модель с плотной архитектурой LLaMA содержит 33,9 млрд параметров и рассчитана на генерацию текста; в карточке указан контекст 4096 токенов. Она обучалась с использованием SFT, DPO и метода UNA на нескольких наборах данных, включая Tree of Knowledge, Open-Platypus, UltraFeedback и OpenOrca. Модель предназначена для диалога и широкого круга текстовых задач: ответов на вопросы, объяснений, написания историй и стихов, а также рассуждений. В README рекомендованы форматы ChatML и Alpaca System. Автор приводит результаты бенчмарков, но отмечает возможные нерегулярности в оценках, поэтому эти цифры не гарантируют качество в практических сценариях. Репозиторий содержит веса Safetensors для Transformers. Лицензия CC BY-NC-ND 4.0 запрещает коммерческое использование и распространение производных материалов; перед применением следует учитывать условия лицензии. Модель экспериментальная, а заявленные результаты и качество ответов могут не воспроизводиться.

UTIM21000steps1e7rateSFT — дообученная диалоговая модель на базе mistralai/Mistral-7B-Instruct-v0.2, разработчик — tsavage68. Модель предназначена для генерации текста и ответов в диалоговом формате; карточка сообщает о дообучении на неизвестном наборе данных и приводит значение loss 1,1047 на оценочном наборе. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Данных о специализации, поддерживаемых языках и конкретных ограничениях в карточке нет. Лицензия — Apache-2.0.

v1olet/v1olet_merged_dpo_7B — дообученная методом Direct Preference Optimization (DPO) модель Trong-Hieu Nguyen-Mau на основе v1olet/v1olet_marcoroni-go-bruins-merge-7B. Это плотная авторегрессионная языковая модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста по инструкциям. В карточке рекомендуется шаблон Alpaca: системное сообщение, инструкция и ответ. Модель создана в декабре 2023 года; метаданные указывают контекст до 32 768 токенов и поддержку английского языка. Модель подходит для диалоговых ответов и выполнения текстовых инструкций. README сообщает, что исходная модель занимала шестое место в общем рейтинге и первое среди моделей 7B, однако подробности тестирования не приведены. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Качество, ограничения на тематику и условия эксплуатации сверх лицензии в карточке не описаны.

RWKV/v6-Finch-1B6-HF — текстовая авторегрессионная модель семейства RWKV-6, разработанная командой RWKV и представленная в формате Hugging Face Transformers. В модели около 1,7 млрд параметров; веса доступны в формате PyTorch, лицензия — Apache-2.0. Модель предназначена для генерации текста и может использоваться для продолжения заданного текста и построения приложений на основе языковой модели. README указывает на оценивание Finch на тестах ARC, HellaSwag и MMLU, но приведённые результаты относятся к версиям Finch 7B и 14B, поэтому их нельзя напрямую приписывать версии 1B6. Для загрузки в Transformers карточка использует trust_remote_code=True.

horangwave/vicuna_0610_8 — языковая модель для генерации текста, собранная автором с помощью mergekit из слоёв horangwave/vicuna_1014_12. Использован метод passthrough: в итоговую модель вошли диапазоны слоёв [0, 6] и [10, 12] базовой модели. Архитектура — плотная LlamaForCausalLM; размер составляет 1,8 млрд параметров, формат весов — safetensors, библиотека — Transformers. Модель принимает текст и выдаёт текст, длина контекста — 2048 токенов. Модель подходит для генерации продолжений и ответов на текстовые запросы. В карточке не описаны специализация, поддерживаемые естественные языки, конкретные сценарии применения или результаты оценки качества. Лицензия в предоставленных данных не указана.

kevinpro/Vicuna-13B-CoT — языковая модель, полученная дополнительным обучением Vicuna методом SFT для усиления способности к рассуждениям с промежуточными шагами (Chain of Thought, CoT). Это плотная авторегрессионная модель семейства Llama с примерно 12,9 млрд параметров, реализованная для Transformers и опубликованная в формате PyTorch. Контекст модели — до 2048 токенов. Модель предназначена для генерации текста с пошаговыми рассуждениями и может применяться для ответов на вопросы, решения задач и работы с кодом на английском языке. В карточке указано обучение на датасете QingyiSi/Alpaca-CoT; отдельные сведения о разработчике, лицензии и оценке качества не заполнены. Следует учитывать ограниченную длину контекста и типичные для языковых моделей риски неточных ответов.

Vikhr-Nemo-12B-Instruct-R-21-09-24-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Vikhr-Nemo-12B-Instruct-R-21-09-24, разработанной Vikhrmodels и подготовленной для распространения в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и диалогового взаимодействия, включая выполнение инструкций, ответы на вопросы и работу с русскоязычными и англоязычными текстами. Модель имеет размер 12 млрд параметров; точная архитектура, поддерживаемые варианты квантования, размер контекста и другие технические характеристики в README не указаны. В качестве связанных наборов данных перечислены Vikhrmodels/GrandMaster-PRO-MAX и Vikhrmodels/Grounded-RAG-RU-v2. Основная заявленная модальность — текстовая. Сильной стороной модели является специализация на инструкционном использовании и поддержка русского языка наряду с английским. Ограничения, результаты оценки, сведения о безопасности, смещениях, производительности и рекомендуемых аппаратных требованиях не приведены, поэтому качество в конкретных сценариях требует самостоятельной проверки. Модель распространяется по лицензии Apache-2.0.

VOICE-CUE Qwen2.5-3B — дообученная версия Qwen/Qwen2.5-3B-Instruct, разработанная пользователем или организацией Jun13KU. Модель предназначена для генерации текста и диалогового взаимодействия через библиотеку Transformers. Модель содержит около 3,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. В метаданных указаны архитектурное семейство Qwen2 и базовая модель Qwen2.5-3B-Instruct; сведения о поддерживаемых естественных языках, модальностях помимо текста, специализации дообучения и лицензии отсутствуют.

kenpath/voice-svara-tts-v1-fft-v0.5 — плотная языковая модель семейства Llama с 3,3 млрд параметров, опубликованная Kenpath Technologies на Hugging Face. Несмотря на упоминание TTS в названии, карточка и метаданные описывают её как разговорную модель для генерации текста; подтверждений синтеза речи нет. Модель принимает текст и генерирует текст, поддерживает диалоговый режим и имеет заявленную длину контекста 131 072 токена. Карточка создана автоматически и не сообщает языки, данные обучения, ограничения или лицензию; поэтому эти характеристики нельзя надёжно определить по доступным сведениям.

Vorenthos-Instruct-7b — разговорная модель для генерации текста, опубликованная vorenthiclabs как экспорт локальной установки Ollama. Модель имеет плотную архитектуру объёмом около 7,2 млрд параметров и распространяется в формате GGUF с шаблоном диалога; карточка рекомендует запуск через Ollama и также упоминает совместимость с llama.cpp и Transformers с поддержкой GGUF. Модель предназначена для диалогов и генерации текста. В метаданных указан базовый репозиторий Vorenthos-Instruct-7b и связь с ним типа finetune, однако README не описывает изменения при дообучении. Лицензия обозначена как other, поэтому условия использования следует проверять в материалах репозитория.

Карточка модели azizshaw/vp_merged_new на Hugging Face совпадает с карточкой azizshaw/vp_merged, поэтому описание составлено по ней. azizshaw/vp_merged — дообученная языковая модель разработчика azizshaw на базе unsloth/llama-3.2-3b-instruct-unsloth-bnb-4bit. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 3,2 млрд параметров; карточка указывает контекст длиной до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Метаданные отмечают интерфейс вызова инструментов; README сообщает, что обучение проводилось с Unsloth и библиотекой TRL. Указан английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает специализацию дообучения и не приводит результатов оценки качества, поэтому пригодность для конкретных предметных задач следует проверять отдельно.

VPO-Pess-SELM-Zephyr-7B-iter-1 — дообученная Katayoon модель на основе Katayoon/DPO-ONLY-Zephyr-7B. Она предназначена для диалогов и генерации текстовых ответов. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors, лицензия — MIT. Карточка указывает на обучение на обновлённом и исходном наборах данных; метаданные также связывают базовую модель с UltraFeedback. README не приводит оценок качества и подробных ограничений, поэтому возможности модели за пределами диалоговой генерации не установлены.

Walter-Falcon-1B — разговорная языковая модель Knut Jaegersberg на архитектуре Falcon, предназначенная для ответов на инструкции и разнообразных текстовых задач. В карточке указано, что модель обучена на наборах инструкций с открытыми лицензиями; около двух третей примеров взяты из крупных наборов, включая FLAN. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Модель можно использовать как текстового ассистента для ответов на вопросы, суммаризации и написания текстов. В README приведены результаты оценивания на задачах рассуждения и здравого смысла, однако данных для вывода о качестве на конкретных языках или в специализированных областях нет. Также не приведены длина контекста и подробные результаты всех тестов.

WestKunai-Hermes-10.7b-test — языковая модель для генерации текста, опубликованная seyf1elislam. Она создана из WestKunai-Hermes-7b с помощью конфигурации mergekit, повторяющей схему модели WestLake-10.7B-v2; в README описана сборка из перекрывающихся диапазонов слоёв исходной модели. Модель имеет плотную архитектуру MistralForCausalLM, около 10,6 млрд параметров и контекст до 32 768 токенов. Репозиторий содержит веса Safetensors; в README также упомянуты квантованные версии GGUF. Модель предназначена для генерации текста и общих диалоговых и языковых задач. В README приведены результаты Open LLM Leaderboard, включая ARC и HellaSwag; указанные средние результаты этой версии ниже, чем у исходной 7B-модели. Карточка не сообщает конкретный список поддерживаемых языков или специализированных областей. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

WestMaid_HermesMonarchv0.1 — языковая модель на 7,1 млрд параметров, созданная giraffe176 слиянием нескольких моделей на базе Mistral-7B-v0.1. Для объединения использован метод DARE TIES; среди исходных моделей — AlphaMonarch-7B, Noromaid-7B-0.4-DPO, WestLake-7B-v2 и дистиллированная OpenHermes 2.5. Модель предназначена для генерации текста, диалогов и ответов на вопросы. В карточке приведены результаты бенчмарков, включая MT-Bench и EQ-Bench v2.1; это заявленные автором показатели, которые не гарантируют качество на конкретных задачах. Модель принимает текст и генерирует текст; максимальная длина контекста — 32 768 токенов. Данных о целевых языках карточка не приводит. Модель распространяется в формате safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Она унаследовала особенности и ограничения компонентов слияния; фактическое качество следует оценивать на целевых сценариях.

Это квантованные версии wisenut-nlp-team-wisenut-llama-3-8B-0.6-Instruct в формате GGUF, подготовленные командой featherless-ai-quants. Базовая модель предназначена для генерации текста и выполнения инструкций, поэтому может применяться в диалоговых системах, локальных ассистентах, подготовке и преобразовании текстов и других сценариях text-generation. Модель относится к семейству Llama и содержит 8 млрд параметров, однако сведения об архитектуре, поддерживаемых языках, модальностях и размере контекста в README не указаны. Доступны варианты квантования IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0; их размер составляет примерно от 3 до 8,1 ГБ. Разные варианты позволяют выбирать компромисс между требованиями к памяти, скоростью работы и сохранением качества, но конкретные показатели производительности и качества не приведены. Формат GGUF удобен для локального запуска совместимыми инструментами, однако README не содержит инструкций по использованию, системных требований или результатов тестирования. Лицензия модели и условия её распространения в предоставленных данных не указаны.

WizardLM-2-7B-abliterated-GGUF — это квантизированная версия языковой модели WizardLM-2-7B-abliterated, опубликованная и подготовленная bartowski на основе оригинальной модели fearlessdots. Модель предназначена для генерации текста и запуска локально через llama.cpp; в README указан формат запросов с системным сообщением, ролями USER и ASSISTANT. Модель содержит 7 млрд параметров и представлена в формате GGUF с вариантами квантизации от Q8_0 до IQ1_S. Доступны сборки размером примерно от 1,61 до 7,69 ГБ. Квантизация выполнена с использованием llama.cpp и метода imatrix. В README не указаны поддерживаемые языки, размер контекстного окна, архитектура исходной модели или мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Сильная сторона семейства — широкий выбор вариантов квантизации, позволяющий подобрать баланс между качеством, размером файла и требованиями к памяти; для высокого качества рекомендуются Q6_K, Q5_K_M, Q5_K_S и некоторые варианты Q4. Более агрессивная квантизация экономит память, но снижает качество, особенно у вариантов IQ1. Модель распространяется по лицензии Apache-2.0.

WizardLM-7B-Landmark — языковая модель семейства Llama, созданная с применением Landmark Attention и QLoRA. В карточке указано, что это объединение нескольких моделей, но их названия не приведены. Модель предназначена для генерации текста; заявлена поддержка контекста свыше 10 тысяч токенов, тогда как в метаданных указан native context в 2048 токенов. В репозитории представлены веса PyTorch общим размером 6,6 млрд параметров. Модель может использоваться для генерации ответов и продолжения текста. README упоминает загрузку через oobabooga с параметром trust_remote_code. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования по имеющимся сведениям определить нельзя.

YamshadowExperiment28-7B — плотная языковая модель на архитектуре Mistral, автоматически созданная Максима Лабонном слиянием automerger/YamShadow-7B и yam-peleg/Experiment28-7B методом SLERP. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и имеет контекст до 32 768 токенов по метаданным. README рекомендует шаблон диалога Alpaca и упоминает контекст 8 тысяч токенов. Модель предназначена для генерации текста и диалоговых сценариев. В README заявлен высокий результат на Open LLM Leaderboard в апреле 2024 года, но автор предупреждает о вероятной переоптимизации под бенчмарки. Также модель может выдавать повторяющиеся фрагменты «INST». Лицензия — Apache 2.0.

YamshadowInex12_Experiment24Experiment28 — слитая текстовая модель, созданная на основе automerger/YamshadowInex12-7B и automerger/Experiment24Experiment28-7B. Модель использует плотную архитектуру Mistral с 7,1 млрд параметров и принимает текст для генерации продолжений и ответов; длина контекста составляет 32 768 токенов. Модель предназначена для генерации текста и экспериментов с языковыми моделями. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. README не сообщает о специализированной области применения или дополнительных ограничениях качества.

MaziyarPanahi/YamshadowInex12_YamYam — объединённая автором модель на архитектуре Mistral для генерации текста. Она объединяет модели automerger/YamshadowInex12-7B и automerger/YamYam-7B; размер составляет 7,1 млрд параметров, а длина контекста — до 32 768 токенов. Модель подходит для генерации продолжений и ответов по текстовому запросу. Модель распространяется в формате Safetensors по лицензии Apache-2.0. README не приводит сведений о конкретных языках, специализации или сравнительных оценках качества.

YamshadowStrangemerges_32_AlloyingotneoyInex12 — объединённая модель для генерации текста, созданная из automerger/YamshadowStrangemerges_32-7B и automerger/AlloyingotneoyInex12-7B. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель принимает текст и генерирует текст; её можно применять для диалога, продолжения текста и других задач генерации. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. В README не приведены результаты оценки качества или специальные инструкции по использованию, поэтому возможности конкретнее генерации текста не подтверждены.

Yi 34B 200K DARE Merge v5 - GGUF — квантизированная версия языковой модели Yi, созданная на основе модели brucethemoose/Yi-34B-200K-DARE-merge-v5. Квантизацию и публикацию GGUF-файлов выполнил TheBloke. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые графические интерфейсы и библиотеки. Модель имеет архитектуру Yi и размер 34 млрд параметров. Указан английский язык; поддерживаемая модальность — текст. Вариант поставляется в формате GGUFv2 с несколькими уровнями квантизации от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством генерации. Для взаимодействия рекомендуется шаблон Orca-Vicuna с секциями SYSTEM, USER и ASSISTANT. README не указывает точный размер контекстного окна, поэтому заявленные 200K в названии нельзя однозначно трактовать как подтверждённый контекст модели. Сильные стороны модели — большой размер, наличие различных уровней квантизации и поддержка локального запуска на CPU и GPU через llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio и другие совместимые инструменты. Ограничениями являются потребность в значительных вычислительных ресурсах для крупных вариантов квантизации, возможная потеря качества при более агрессивном сжатии и отсутствие подробных данных о качестве, обучающих данных и целевых бенчмарках. Лицензия обозначена как yi-license; условия следует уточнять в лицензии исходной модели Yi.

Minami-su/Yi_34B_Chat_2bit — чат-модель генерации текста на основе Yi объёмом 33,9 млрд параметров, представленная в 2-битной квантизации весов методом QuIP#. По README, такой формат рассчитан на запуск на GPU с 11 ГБ памяти и стремится приблизить качество к fp16 при существенно меньшем объёме весов. Модель построена на плотной архитектуре LlamaForCausalLM; нативный контекст составляет 4096 токенов. Модель предназначена для диалоговой генерации текста. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Карточка не описывает конкретные языки, наборы данных или результаты оценки качества.

Yi-Agent-6B — двуязычная текстовая модель с генеративной архитектурой Llama, разработанная hiyouga и дообученная с помощью LLaMA-Factory. Модель содержит 5,8 млрд параметров и поддерживает контекст до 4096 токенов. Для обучения использовались наборы Alpaca, OpenAssistant и Glaive Function Calling. Модель предназначена для следования инструкциям и вызова функций в диалоговых сценариях на английском и китайском языках. Её можно запускать через REST API средствами LLaMA-Factory. В метаданных указана лицензия other; конкретные условия использования следует сверить с лицензией репозитория.

YOYO-AI_Qwen3-30B-A3B-Mixture-2507-GGUF — это GGUF-квантизированная версия текстовой генеративной модели Qwen3-30B-A3B-Mixture-2507, разработанной YOYO-AI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска задач генерации текста через llama.cpp, LM Studio и другие совместимые проекты. В названии указано 30B параметров и обозначение A3B Mixture, однако подробности архитектуры, число активных параметров, поддерживаемые языки, длина контекста и доступные модальности в представленном README не описаны. Доступны варианты от BF16 и Q8_0 до более компактных Q3 и IQ-квантизаций. Варианты Q6 и Q5 позиционируются как обеспечивающие очень высокое или высокое качество, Q4 — как оптимальные по соотношению качества и размера, а Q3 — как подходящие для систем с ограниченным объёмом оперативной памяти. Сильная сторона этой версии — широкий выбор размеров файлов и возможность локального запуска на совместимом оборудовании; рекомендованным вариантом по умолчанию указан Q4_K_M. Более агрессивная квантизация уменьшает требования к памяти, но снижает качество генерации. Формат prompt не указан, поэтому его следует уточнять на странице исходной модели. Лицензия в README не приведена.

Zamba-7B-v1 — предварительно обученная языковая модель Zyphra для генерации текста и кода. Она использует гибридную архитектуру: основу из слоёв Mamba с общим слоем внимания Transformer через каждые шесть блоков. Модель обучена предсказанию следующего токена на текстовых и кодовых данных; для токенизации применяется Mistral v0.1. В метаданных указано 16,9 млрд параметров и контекст 4096 токенов. Модель предназначена для продолжения текста и генерации кода. Благодаря архитектуре SSM она снижает затраты памяти на KV-кэш и обеспечивает высокую скорость генерации по сравнению с сопоставимыми моделями 7B–8B. По оценке разработчиков, она уступает ведущим открытым моделям 7B в основном на задачах MMLU и рассуждения. Это базовая модель без модерации, не дообученная для чата, поэтому качество диалоговых ответов не гарантируется. Карточка отмечает повышенную задержку в реализации Hugging Face по сравнению с внутренней реализацией. Лицензия — Apache-2.0.

ZAYA1-reasoning-base — плотная по архитектуре MoE-языковая модель Zyphra, основанная на Zyphra/ZAYA1-base и дополнительно обученная на 1 трлн токенов с упором на рассуждения. Она предназначена для генерации текста и диалогов, особенно для сложных задач по математике, STEM и программированию, требующих многошагового анализа. Модель содержит 7,7 млрд параметров по метаданным, использует архитектуру ZayaForCausalLM, токенизатор Gemma 3 и контекст до 32 768 токенов. В архитектуре применены механизм внимания Compressed Convolutional Attention, нелинейный маршрутизатор экспертов и обучаемое масштабирование остаточных связей. Модель демонстрирует сильные результаты на сложных математических и кодовых задачах, но README отмечает, что полного RL-постобучения она не проходила. Для запуска требуется форк Transformers с поддержкой Zaya. Лицензия — Apache-2.0.

Zenith-7B — разговорная инструкцияя модель, разработанная Xenon1 и дообученная на базе Mistral-7B-v0.1 на наборе Ultrafeedback с применением методов из статьи Self-Rewarding Language Models. Она предназначена для генерации ответов и ведения диалога по инструкциям; для запросов используется формат Mistral с маркерами [INST] и [/INST], доступен шаблон чата Transformers. Модель имеет плотную архитектуру MistralForCausalLM с Grouped-Query Attention и Sliding-Window Attention, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Карточка указывает английский язык. Веса доступны в форматах PyTorch и Safetensors; лицензия — Apache-2.0. Карточка не приводит оценки качества или результаты бенчмарков.

argilla/zephyr-7b-spin-iter2-v0 — диалоговая языковая модель Argilla, полученная дообучением argilla/zephyr-7b-spin-iter1-v0 на наборах argilla/10k_prompts_SPIN_iter2_zephyr_top и argilla/10k_prompts_SPIN_iter1_zephyr_top. Это плотная модель MistralForCausalLM с 7,1 млрд параметров, предназначенная для генерации текста и ответов в диалоге; поддерживает контекст до 32 768 токенов. В карточке приведены результаты оценки на тестовом наборе и сравнение с предыдущими версиями на MT-Bench. Лицензия — Apache-2.0. README не описывает специальные области применения или ограничения, поэтому оценочные результаты сами по себе не гарантируют качество для конкретных задач.