II.6Документация и сопровождение разработки

LLaMA-Pro-8B-Instruct — языковая модель Tencent ARC на архитектуре LLaMA, построенная расширением LLaMA2-7B с помощью расширения блоков. Она содержит около 8,2 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие. При обучении использовались данные по программированию и математике объёмом свыше 80 млрд токенов. Модель предназначена для генерации и продолжения текста, ответов в чате, помощи с программированием и решения математических задач, сохраняя возможности для общих языковых сценариев. Максимальный контекст — 4096 токенов; доступны веса в форматах PyTorch и Safetensors. Модель разработана командой Tencent ARC и распространяется по лицензии Llama 2. Она может испытывать трудности с узкоспециализированными или тонкими задачами, а также наследовать предвзятости обучающих данных.

Llama TI 8B Instruct — дообученная и объединённая модель на основе Meta Llama 3.1 8B Instruct, разработанная и опубликованная ehristoforu. Она использует плотную архитектуру LlamaForCausalLM и предназначена для диалогов и генерации текста; заявленный размер — 8,03 млрд параметров, а длина контекста — до 131 072 токенов. Автор сообщает об улучшениях в математике, физике, биологии, логическом рассуждении и творческом письме. Модель также подходит для программирования и анализа длинных текстов, а интерфейс поддерживает чат и вызов инструментов. В карточке перечислены возможности на английском и работа с кодом; автор отдельно заявляет о письме на многих языках. Модель распространяется в формате Safetensors под лицензией Apache-2.0. Заявленные улучшения приведены в карточке без количественных результатов оценки, поэтому их качество на конкретных задачах следует проверять отдельно.

Carchofa/looped_llama_8b_128k — языковая модель для генерации текста, опубликованная на Hugging Face и предназначенная для запуска через библиотеку Transformers. Модель относится к семейству Llama и содержит около 7,5 млрд параметров. Модель может использоваться для продолжения текстов, подготовки черновиков, генерации ответов и других сценариев, основанных на text-generation. Её нативное контекстное окно составляет 131 072 токена, что позволяет обрабатывать длинные входные документы и диалоги. README не содержит сведений о разработчике, лицензии, языках обучения, данных, результатах оценки и специальных ограничениях, поэтому перед практическим применением требуется дополнительная проверка качества и условий использования.

MaziyarPanahi/M7Yamshadowexperiment28_Experiment24Inex12 — слитая языковая модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и принимает текстовые запросы, выдавая текст. Модель создана путём объединения automerger/M7Yamshadowexperiment28-7B и automerger/Experiment24Inex12-7B. Поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Лицензия — Apache-2.0.

M7Yamshadowexperiment28_Strangemerges_32Shadow — объединённая методом SLERP модель семейства Mistral с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель создана объединением automerger/M7Yamshadowexperiment28-7B и automerger/Strangemerges_32Shadow-7B. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

Maestro-10B — языковая модель примерно с 9,9 млрд параметров, созданная suayptalha дообучением Virtuoso-Lite от arcee-ai на датасете OpenOrca. Она использует плотную архитектуру Llama и предназначена для диалогов и генерации текста; унаследованные от базовой модели сильные стороны включают рассуждения, генерацию кода, математические и технические задачи. Поддерживает контекст до 32 768 токенов и ориентирована на английский язык. Модель подходит для диалоговых ассистентов, ответов на вопросы, помощи с кодом и решения математических и технических задач. Файлы представлены в форматах PyTorch и Safetensors. В карточке указана лицензия «other», поэтому конкретные условия использования следует сверить с лицензией репозитория.

Sakalti/Magro-7b-v1.1 — объединённая модель для генерации текста и диалогового общения, созданная автором репозитория с помощью mergekit. В основе слияния лежит HuggingFaceH4/zephyr-7b-alpha; также включена Sakalti/magro-7B. Использован метод TIES, итоговые веса указаны в формате bfloat16. Модель построена на архитектуре Mistral с плотной причинно-языковой моделью примерно на 7,1 млрд параметров. Она принимает текстовые запросы и генерирует текстовые ответы; заявленная длина контекста — 32 768 токенов. Подходит для диалоговых приложений и генерации ответов. Лицензия — MIT.

Manticore 13B — языковая модель OpenAccess AI Collective, полученная дообучением Llama 13B на наборах диалогов, инструкций, задач на рассуждение и краткое изложение. Это плотная авторегрессионная архитектура LLaMA с 12,9 млрд параметров; модель использует Transformers и принимает текст, генерируя текст. Указанный контекст — 2048 токенов, основной язык карточки — английский. Модель предназначена для диалогов с ассистентом, выполнения инструкций, ответов на вопросы и генерации подробных или кратких ответов. Данные обучения включают ShareGPT, WizardLM, Wizard-Vicuna, Alpaca-CoT, GPT4-LLM-Cleaned, GPTeacher, ScienceQA, HellaSwag, MMLU и набор для суммаризации отзывов. Модель не проходила выравнивание предпочтений с помощью RLHF и может выдавать проблемные ответы, особенно при соответствующих запросах. Лицензия в предоставленных данных не указана.

MBX-7B-v3 — языковая модель на архитектуре Mistral, представленная Flemming Miguel. В README модель описана как слияние через LazyMergekit моделей flemmingmiguel/MBX-7B и flemmingmiguel/MBX-7B-v3 методом SLERP; при этом в качестве базовой модели указана flemmingmiguel/MBX-7B-v3. Репозиторий содержит веса Safetensors, а README также упоминает квантованный формат GGUF. Модель предназначена для генерации текста. Её размер составляет 7,1 млрд параметров, длина контекста — 32 768 токенов. Карточка не сообщает о специализации на конкретном языке или предметной области. Модель распространяется по лицензии Apache-2.0.

MeliodasPercival_01_Experiment26Neuralsirkrishna — объединённая языковая модель на архитектуре Mistral, созданная путём слияния automerger/MeliodasPercival_01-7B и automerger/Experiment26Neuralsirkrishna-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов с контекстом до 32 768 токенов. Модель подходит для создания ответов и продолжения текста в приложениях на базе языковых моделей. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

MeliodasPercival_01_ShadowCalme — объединённая текстовая модель на архитектуре Mistral, созданная путём слияния automerger/MeliodasPercival_01-7B и automerger/ShadowCalme-7B. Она предназначена для генерации текста и диалогов в сценариях, где требуется обработка запросов с длинным контекстом. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. Метаданные указывают задачу text-generation; сведения о поддерживаемых языках и специализированных предметных областях отсутствуют. Модель распространяется по лицензии Apache-2.0.

MeliodasPercival_01_ShadowT3q — объединённая модель на архитектуре Mistral с 7,1 млрд параметров, созданная путём слияния моделей automerger/MeliodasPercival_01-7B и automerger/ShadowT3q-7B. Она предназначена для генерации текста и диалогов, в том числе с использованием контекста длиной до 32 768 токенов. Модель принимает текст и выдаёт текст. Веса опубликованы в формате Safetensors. Репозиторий распространяется по лицензии Apache-2.0. В карточке не описаны специальные предметные области или отдельные ограничения качества.

MeliodasPercival_01_YamT3qm7xp — объединённая языковая модель на архитектуре Mistral, созданная из automerger/MeliodasPercival_01-7B и automerger/YamT3qm7xp-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Она предназначена для генерации текста и может использоваться в сценариях, где требуется создавать продолжения и ответы на основе текстового запроса. Веса доступны в формате Safetensors; лицензия — Apache 2.0.

MeliodasT3q_T3qExperiment26 — объединённая модель генерации текста, созданная на основе automerger/MeliodasT3q-7B и automerger/T3qExperiment26-7B. Она построена на плотной архитектуре Mistral с причинно-языковой моделью MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста по текстовому запросу и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Репозиторий использует лицензию Apache-2.0.

Mellum2 Instruct — диалоговая языковая модель, разработанная JetBrains для прямых ответов без явного пошагового рассуждения. Она подходит для интерактивного чата, выполнения инструкций, помощи с кодом и использования инструментов. Модель построена на архитектуре Mixture-of-Experts: 64 эксперта, из которых для каждого токена активируются 8. Используются слои со скользящим окном и полным вниманием; контекст составляет 131 072 токена. По карточке модель получена из JetBrains/Mellum2-12B-A2.5B-Base с помощью дообучения на инструкциях и последующего обучения с подкреплением на задачах математики, программирования, использования инструментов, следования инструкциям, рассуждений и знаний. Указанный в метаданных размер — 1,9 млрд параметров; веса представлены в safetensors, библиотека — Transformers. Модель принимает текст и предназначена для генерации текстовых ответов. Карточка сообщает об английском языке. Для сложной отладки, планирования и многошаговых агентных сценариев разработчик рекомендует вариант Thinking. Лицензия — Apache-2.0.

tepirale/merge-cord-v1 — объединённая языковая модель, созданная с помощью mergekit на основе Qwen/Qwen2.5-1.5B. В слияние вошли Qwen/Qwen2.5-1.5B-Instruct и Qwen/Qwen2.5-Coder-1.5B-Instruct; в метаданных также указана связь с Qwen/Qwen2.5-1.5B. Архитектура — плотная причинная языковая модель Qwen2 с 1,5 млрд параметров, распространяемая в формате safetensors и рассчитанная на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов, включая задачи с кодом; метаданные отмечают интерфейс вызова инструментов. Поддерживаемый язык по карточке не определён. Для использования указана библиотека Transformers, лицензия в предоставленных данных не приведена. README сообщает о применении метода Consensus-Orthogonal Residual Decomposition и отмечает, что функция cord отсутствует в MergeKit, поэтому воспроизводимость указанной конфигурации может быть ограничена.

Meta-Llama-3.1-8B-Instruct-GGUF — это квантизированная в формате GGUF инструкционная языковая модель семейства Llama 3.1, разработанная Meta. Версия GGUF подготовлена bartowski на основе llama.cpp и предназначена для локального запуска, в частности через LM Studio. Модель поддерживает генерацию текста и диалоговые сценарии, включая работу с инструкциями и многоязычными запросами на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Модель содержит около 8 миллиардов параметров и имеет контекстное окно до 128 000 токенов. Она обучалась на 15 триллионах токенов, включая 25 миллионов синтетически созданных примеров. К сильным сторонам относятся улучшенная производительность по сравнению с предыдущими моделями Llama 3 и развитые возможности для многоязычных задач. При этом модель может генерировать неточную, вредную или неподходящую информацию, а качество и скорость работы зависят от используемой квантизации и локального оборудования. Для работы в LM Studio требуется версия 0.2.29 или новее и шаблон запроса Llama 3. Модель распространяется по лицензии Llama 3.1. README не уточняет условия коммерческого использования и конкретные ограничения лицензии, поэтому перед применением необходимо ознакомиться с её полным текстом.

RedHatAI/Meta-Llama-3.1-8B-Instruct-quantized.w8a16 — это квантизированная версия Meta-Llama-3.1-8B-Instruct, разработанная Neural Magic на базе модели Meta. Модель предназначена для коммерческого и исследовательского использования в сценариях диалогового ассистента и генерации текста. Она поддерживает текстовый ввод и вывод, а также английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель использует архитектуру Meta-Llama-3 и содержит около 8 миллиардов параметров. Веса линейных операторов внутри блоков трансформера квантизированы в INT8 по схеме W8A16 с применением симметричной поканальной квантизации и алгоритма GPTQ; выходной слой lm_head не квантизирован. Это примерно вдвое уменьшает размер модели на диске и требования к GPU-памяти по сравнению с 16-битной версией. Модель оптимизирована для эффективного развёртывания с использованием vLLM; в примере конфигурации указан максимальный размер контекста 8192 токена. По заявленным оценкам, квантизация сохраняет качество в пределах 1% от исходной модели на MMLU, ARC-Challenge, GSM-8K, Hellaswag, Winogrande и TruthfulQA. Основные ограничения связаны с меньшим размером и возможными особенностями качества 8-битной квантизации по сравнению с полной версией, а также с тем, что модель предназначена прежде всего для текстовых, а не мультимодальных задач. Модель распространяется по лицензии Llama 3.1; использование не должно нарушать применимое законодательство и требования экспортного контроля.

Карточка модели yejingfu/Meta-Llama-3.2-1B на Hugging Face совпадает с карточкой meta-llama/Llama-3.2-1B, поэтому описание составлено по ней. Meta Llama 3.2 1B — авторегрессионная языковая модель на основе оптимизированной архитектуры Transformer. Это предварительно обученная многоязычная модель с примерно 1,23 млрд параметров; она принимает и генерирует текст, а также может работать с кодом. В карточке указаны контекст до 128 тысяч токенов, Grouped-Query Attention и обучение на смеси общедоступных данных. Модель предназначена для генерации текста и адаптации к различным задачам обработки естественного языка. Её можно использовать для черновиков и продолжения текста, перефразирования запросов, краткого изложения и диалоговых приложений после соответствующей настройки. Разработчик — Meta; модель доступна через библиотеку Transformers в формате safetensors. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Это предварительно обученная модель, а не версия, настроенная специально для диалога; качество и безопасность ответов следует проверять и при необходимости адаптировать для конкретного применения. Использование регулируется пользовательской лицензией Llama 3.2 Community License и Acceptable Use Policy.

ThomasBaruzier/Meta-Llama-3-70B-Instruct-GGUF — это GGUF-версия инструкционной языковой модели Meta Llama 3 с размером 70 млрд параметров. Модель разработана Meta и предназначена для генерации текста, диалогов и выполнения инструкций; в карточке также указана задача text-generation. Заявленный язык — английский. Модель относится к текстовым, без указаний на поддержку изображений, аудио или других модальностей. Формат GGUF ориентирован на локальный запуск средствами совместимой инфраструктуры, однако конкретная версия квантования, требования к памяти, максимальный контекст и показатели качества в README не указаны. Сильными сторонами являются инструкционный режим и масштаб 70 млрд параметров, но практические характеристики зависят от используемого варианта GGUF и аппаратного обеспечения. Модель распространяется по Meta Llama 3 Community License. Лицензия разрешает использование, копирование, модификацию и распространение на установленных условиях, включая сохранение уведомления об атрибуции и указание «Built with Meta Llama 3» при распространении материалов или продуктов. Также требуется соблюдение Acceptable Use Policy; для продуктов с более чем 700 млн ежемесячных активных пользователей предусмотрены дополнительные лицензионные условия.

MiMo-V2.6-Flash-RL — мультимодальная модель Xiaomi из серии MiMo-V2.6, обученная с подкреплением для задач агентного взаимодействия и самоулучшения по обратной связи. Она предназначена для генерации текста, работы с инструментами, программирования и мультимодального понимания; обучение объединяет задачи кодирования, визуальные сценарии, агентов общего назначения и кибербезопасность. В README архитектура описана как разреженная MoE с 309 млрд общих и 15 млрд активируемых параметров, 1 млн токенов контекста, обработкой текста, изображений, видео и аудио, а также визуальным и аудиокодировщиками. Метаданные Hugging Face, однако, указывают 12 млрд параметров и архитектуру dense MiMoV2ForCausalLM в формате safetensors FP8; поэтому точный размер и тип архитектуры опубликованной версии противоречивы. Метаданные также указывают поддержку английского и китайского языков. Для развёртывания README приводит рецепты SGLang и vLLM и интерфейс вызова инструментов. Модель распространяется по лицензии MIT. README приводит результаты отдельных бенчмарков, но не задаёт гарантий качества для конкретных задач; работа с длинным контекстом и мультимодальными входами требует совместимого программного обеспечения и достаточных вычислительных ресурсов.

MiniCPM4.1-8B-GGUF — это компактная большая языковая модель серии MiniCPM4.1, разработанная командой OpenBMB. Модель предназначена для генерации текста, диалоговых приложений, выполнения инструкций, задач, требующих рассуждений, и локального запуска на периферийных устройствах. Она поддерживает режимы глубокого рассуждения и обычной генерации, а также гибридный режим с объединением этих подходов. Модель содержит 8 млрд параметров и распространяется в формате GGUF, ориентированном на эффективный инференс в совместимых инструментах. Архитектура использует обучаемый разреженный механизм внимания InfLLM v2: при обработке текста длиной до 128K токенов каждому токену требуется вычислять релевантность менее чем с 5% токенов, что снижает вычислительные затраты при работе с длинным контекстом. Модель обучалась с применением низкоточного вычисления FP8 и стратегии Multi-token Prediction; заявлены поддержка китайского и английского языков и текстовая модальность. К сильным сторонам относятся эффективность, пригодность для локального и периферийного развертывания, поддержка длинного контекста и режимов с рассуждением. Ограничения включают отсутствие в предоставленных данных точного описания максимального контекстного окна именно для данной версии, требований к аппаратному обеспечению, результатов бенчмарков и особенностей совместимых GGUF-рантаймов. Модель распространяется по лицензии Apache-2.0.

MiniCPM5-2B-GPTQ — GPTQ-квантованная версия MiniCPM5-2B, разработанная OpenBMB. Это плотная Transformer-модель на 2 млрд параметров для генерации текста, локального и on-device-развертывания, а также сценариев с ограниченными ресурсами. Модель ориентирована на английский и китайский языки и интегрируется с библиотекой Transformers. Модель предназначена для следования инструкциям, программирования, математических рассуждений, работы с длинным контекстом, использования инструментов и агентских задач. Заявлена конкурентоспособность с моделями класса 4B, а среди моделей сопоставимого размера отмечаются сильные результаты в коде, математике, long-context, tool use и agentic-сценариях. Поддерживаемая модальность — текст; максимальный размер контекста в предоставленных данных не указан. Ключевое преимущество — сочетание компактного размера, возможностей для локального запуска и высокой производительности в ряде прикладных задач. Ограничения включают меньший размер по сравнению с крупными моделями и отсутствие сведений о точных требованиях к памяти, форматах квантования и результатах независимого тестирования. Модель распространяется по лицензии Apache-2.0.

MiniCPM5-2B-SFT — версия модели MiniCPM5 от OpenBMB для локальных ассистентов, программных агентов и запуска на устройствах с ограниченными ресурсами. Это плотная авторегрессионная языковая модель на архитектуре LlamaForCausalLM с 2,2 млрд параметров по метаданным, 42 слоями и контекстом до 131 072 токенов. Модель предназначена для диалогов, генерации кода, математических рассуждений, работы с длинным контекстом и сценариев использования инструментов. Карточка сообщает о поддержке английского и китайского языков и описывает сильные результаты модели относительно других моделей сопоставимого размера; эти сравнительные оценки получены разработчиком. Модель принимает и генерирует текст. Весы опубликованы в формате safetensors, для запуска описана поддержка Transformers и локального развёртывания на CPU и GPU, а также серверных движков. Лицензия — Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными; выводы по медицине, финансам, праву и политике не являются экспертной рекомендацией.

MuXodious выпустил дообученную версию Ministral-3-8B-Reasoning-2512, созданную с помощью движка Heretic и метода abliteration. Это плотная мультимодальная модель семейства Mistral 3: языковая часть содержит 8,4 млрд параметров, а зрительный энкодер — 0,4 млрд. Репозиторий содержит веса Safetensors; для запуска указана библиотека vLLM, а README также сообщает о необходимости Transformers v5 для работы через Transformers. Модель предназначена для диалогов и многошаговых рассуждений, включая математические и научные вопросы, программирование, анализ изображений и документов, перевод и агентные сценарии с вызовом функций и JSON-выводом. Она принимает текст и изображения, отвечает текстом и поддерживает контекст до 256 тыс. токенов. Заявлена поддержка английского, французского, испанского, немецкого, итальянского, португальского, нидерландского, китайского, японского, корейского и арабского языков. Автор описывает модель как сильно менее склонную к отказам после abliteration; это может привести к выдаче небезопасных ответов, поэтому её следует применять с осторожностью. Для работы с изображениями рекомендуется сохранять близкое к квадратному соотношение сторон. Лицензия Apache 2.0 разрешает использование и модификацию, в том числе в коммерческих целях.

Miss.Z-V0.1 — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit методом SLERP из HuggingFaceH4/zephyr-7b-beta и mistralai/Mistral-7B-Instruct-v0.3. Репозиторий содержит веса в формате Safetensors; модель насчитывает 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов, а её интерфейс также поддерживает вызов инструментов. Она принимает текст и выдаёт текст. Данные о конкретных языках применения и специализированных предметных областях не приведены. Модель опубликована 9 сентября 2024 года. Условия лицензии в предоставленных данных не указаны.

cloudyu/mistral_18B_instruct_v0.1 — разговорная модель для генерации текста, разработанная на архитектуре Mistral и дообученная методом SFT на vicgalle/alpaca-gpt4. В README указано 80 слоёв; по метаданным модель содержит 17,6 млрд параметров, использует MistralForCausalLM и имеет контекст до 32 768 токенов. Модель предназначена для диалогов и выполнения инструкций в формате «инструкция — входные данные — ответ». Она принимает текст и генерирует текст. Репозиторий содержит веса в формате Safetensors; лицензия — CC BY 4.0. Карточка не описывает отдельные специализированные предметные области или подробные оценки качества.

Mistral-7b-FFT-Test3-Mistral-7B-Instruct-v0.2-slerp — текстовая диалоговая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.2 и Dans-DiscountModels/Mistral-7b-FFT-Test3; в конфигурации указан тип данных bfloat16. Модель предназначена для генерации текста и выполнения инструкций в диалоге, а контекст составляет до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и других сценариев генерации текста. В карточке указана лицензия Apache-2.0. Данных о специальных предметных областях или языках, на которые модель рассчитана в первую очередь, нет.

Mistral-7B-Instruct-v0.2 — диалоговая инструкцияязычная модель семейства Mistral, разработанная Mistral AI. Это плотная причинная языковая модель на 7,1 млрд параметров для генерации текста и ответов на запросы в формате чата; для работы с ней в README приведены примеры токенизации и инференса через mistral-common и mistral-inference. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Репозиторий содержит веса PyTorch в формате safetensors и распространяется по лицензии Apache-2.0. Карточка характеризует её как быструю демонстрацию возможностей дообучения базовой модели. В README отмечено, что у модели нет встроенных механизмов модерации, поэтому её ответы могут не соблюдать ограничения безопасности и требуют соответствующей защиты при развёртывании.

Mistral-7B-Instruct-v0.2-expanded — разговорная языковая модель, созданная Arcee AI на основе mistralai/Mistral-7B-Instruct-v0.2. Авторы расширили блоки модели с помощью метода passthrough из mergekit: после каждого пятого слоя добавлен новый слой, в котором параметры o_proj и down_proj инициализированы нулями по подходу LLaMA Pro. Модель имеет плотную архитектуру MistralForCausalLM, содержит 8,9 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Репозиторий содержит веса в формате safetensors; использовать модель можно через библиотеку Transformers. Лицензия в предоставленных данных не указана.