II.1Анализ требований и архитектура ПО
В разделе собраны самостоятельные задачи, где AI помогает переводить потребности бизнеса в непротиворечивые требования и технические решения. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
18 191 модельChaoticNeutrals/Kunocchini-7b-128k-test — разговорная языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная слиянием Kunoichi-DPO-v2-7B и Fett-uccine-Long-Noodle-7B-120k-Context методом SLERP. Модель предназначена для генерации текста, диалогов и ответов на вопросы; в README указана конфигурация для SillyTavern. Репозиторий содержит веса Safetensors, а исходная точность слияния — bfloat16. В метаданных заявлено 32 768 токенов нативного контекста. Название репозитория упоминает 128k, а одна из базовых моделей рассчитана на длинный контекст, однако эти сведения не подтверждают поддержку 128k самой объединённой моделью. Карточка задаёт лицензию как other, поэтому конкретные условия следует проверять у автора и в файлах репозитория. README приводит результаты отдельных тестов, но не описывает языковой охват и ограничения модели.
L3.1-70B-Euryale-v2.2-GGUF — это набор GGUF-квантизаций языковой модели L3.1-70B-Euryale-v2.2, подготовленный bartowski с использованием llama.cpp и метода imatrix. Исходная модель разработана Sao10K, а квантизации предназначены для локального запуска генерации текста, в том числе через LM Studio. Указан английский язык и текстовая модальность; конкретные сценарии применения исходной модели в README не раскрыты, но формат подходит для диалоговой генерации и создания текста с заданным prompt format. Модель имеет 70 миллиардов параметров. Доступны варианты квантизации от Q8_0 до IQ1_M, размером примерно от 16,75 до 74,98 ГБ. В README не указаны архитектура исходной модели, размер контекстного окна и точный набор поддерживаемых языков помимо английского. Более качественными и рекомендуемыми названы варианты Q6_K, Q5_K_M, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; низкобитные варианты экономят память, но заметно уступают в качестве. Сильной стороной является широкий выбор квантизаций для устройств с разным объёмом оперативной памяти, включая варианты с Q8_0 для embedding- и output-весов. Ограничения включают высокие требования к памяти даже у компактных вариантов и снижение качества при использовании агрессивной квантизации. Модель распространяется по лицензии CC BY-NC 4.0, которая разрешает использование с указанными условиями и ограничивает коммерческое применение.
LD-Zephyria-37b — экспериментальная текстовая модель семейства Mistral, созданная на основе unsloth/Mistral-Small-Instruct-2409 методом позднего дублирования слоёв. В модели 37,3 млрд параметров и контекст до 131 072 токенов; метаданные указывают на поддержку диалогового режима и интерфейса вызова функций. Архитектура включает 55 слоёв: дублирование начинается с 28-го слоя, а после него остаются семь уникальных финальных слоёв. Модель предназначена для генерации текста и диалогов, в том числе сценариев, где полезно извлечение разнообразных признаков до этапа уточнения. README предупреждает, что слои down_proj и o_proj обнулены и требуют восстановления, поэтому текущие веса могут работать некорректно. Лицензия в предоставленных данных не указана.
LLaDA-8B-Base — базовая языковая модель семейства LLaDA, разработанная командой GSAI-ML и обученная с нуля. Это плотная модель на 8 млрд параметров, использующая диффузионный подход к генерации текста; репозиторий содержит веса в формате Safetensors и поддерживает Transformers. Модель предназначена для генерации текста и может служить базой для диалоговых сценариев и дальнейшей адаптации. В карточке заявлено, что по результатам разработчиков она сопоставима по качеству с LLaMA 3 8B. Данных о поддерживаемых языках и длине контекста в предоставленных источниках нет. Модель распространяется по лицензии MIT. Карточка сообщает об обновлении кода для поддержки attention_mask, но не приводит подробных ограничений или результатов оценки для отдельных задач.
Unsloth предоставляет дообученную разговорную версию Llama 2 с 7 млрд параметров для генерации текста в формате диалога. Модель основана на архитектуре Llama и предназначена для чат-ответов и продолжения текста; README упоминает шаблоны ShareGPT ChatML и Vicuna. Максимальная длина контекста — 4096 токенов. Модель принимает текст и выдаёт текст на английском языке. Репозиторий содержит веса Safetensors для использования с библиотекой Transformers. Лицензия — Apache 2.0. Доступная карточка описывает также сценарии дообучения, но не приводит подробностей о данных и конкретных изменениях весов.
baaghi124/Llama-2-7B-Chat-OpenOrca — чат-модель на архитектуре Llama 2, дообученная разработчиком baaghi124 на очищенном наборе Llama2-OpenOrca-Clean с применением QLoRA и 4-битной квантизации при дообучении. Модель содержит 6,6 млрд параметров, использует класс LlamaForCausalLM и работает с текстом; её основная задача — генерация ответов в диалоге и продолжение текста. Базовая модель — meta-llama/Llama-2-7b-chat-hf, контекст составляет до 4096 токенов. Модель подходит для чат-ботов и генерации текстовых ответов в сценариях общего назначения. В карточке не приведены отдельные оценки качества или сведения о специальных областях применения. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.
MaziyarPanahi/Llama-3-11B-Instruct-v0.1 — диалоговая языковая модель, созданная MaziyarPanahi как self-merge модели Meta-Llama-3-8B-Instruct. Она предназначена для генерации текста в формате беседы: ответов на вопросы, инструкций и запросов к ассистенту. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 11 млрд параметров и использует библиотеку Transformers; доступны веса в формате safetensors. Нативная длина контекста — 8192 токена. В карточке приведён пример ответа на арифметическую задачу и способ загрузки модели через Transformers. В метаданных указан английский язык. Лицензия обозначена как other; конкретные условия следует проверять в материалах репозитория и базовой модели. Это производная модель, заявленная как слияние, хотя метаданные классифицируют связь с базовой моделью как дообучение.
Llama-3.1-Nemotron-Nano-8B-v1-GGUF — компактная версия языковой модели семейства Llama 3.1 Nemotron, связанная с NVIDIA и представленная в формате GGUF для запуска через llama.cpp. Модель предназначена для генерации текста и сценариев, где важны низкое потребление памяти и возможность локального вывода: развёртывания на GPU с ограниченным объёмом VRAM, CPU и периферийных устройствах, а также исследования ультранизкобитного квантования. Модель содержит 8 миллиардов параметров, относится к текстовым генеративным моделям и заявлена для английского языка. В репозитории представлены варианты с экстремальным квантованием на 1–2 бита, включая IQ1 и IQ2, с динамическим распределением точности по слоям IQ-DynamicGate: критические embedding и output-слои используют более высокую точность, а внутренние слои — более компактные форматы. Такой подход снижает размер и требования к памяти, при этом, согласно приведённым тестам на Llama-3-8B-Instruct с контекстом 2048 токенов, может заметно улучшать perplexity по сравнению со стандартным квантованием сопоставимого разряда. Сильные стороны модели — очень низкое потребление памяти, пригодность для CPU и edge-устройств и сохранение приемлемой точности при 1–2-битном представлении. Ограничения включают возможную потерю качества по сравнению с полноточными версиями, применимость преимущественно к текстовым задачам и компромисс между точностью и эффективностью; приведённые результаты относятся к отдельным бенчмаркам и не гарантируют качество во всех сценариях. Модель распространяется по NVIDIA Open Model License; точные условия следует уточнять в тексте этой лицензии.
mirnawazrchilli/llama3.2-16bit — текстовая генеративная модель семейства Llama 3.2, дообученная автором mirnawazrchilli на базе unsloth/llama-3.2-1b-instruct-bnb-4bit. Архитектура — плотная авторегрессионная модель LlamaForCausalLM примерно с 1,2 млрд параметров; веса представлены в формате PyTorch. Для обучения использовались Unsloth и библиотека TRL. Модель предназначена для генерации текста и диалогового взаимодействия на английском языке. Её можно применять для ответов на запросы, продолжения текста и создания простых диалоговых приложений; в метаданных также отмечен интерфейс вызова инструментов. Контекстное окно составляет 131 072 токена. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результатов оценки качества или подробностей обучающих данных, поэтому пригодность для конкретных задач следует проверять отдельно.
Карточка модели OehmJoa/Llama-3.2-3B-Instruct-abliterated на Hugging Face совпадает с карточкой huihui-ai/Llama-3.2-3B-Instruct-abliterated, поэтому описание составлено по ней. Llama-3.2-3B-Instruct-abliterated — диалоговая языковая модель на 3,2 млрд параметров, созданная huihui-ai методом abliteration на основе meta-llama/Llama-3.2-3B-Instruct. Она предназначена для генерации текста и ответов в чате; автор позиционирует её как версию с ослабленными отказами. Модель использует плотную архитектуру LlamaForCausalLM, работает с текстом и имеет контекстное окно до 131 072 токенов. В README приведены результаты повторной оценки на IF_Eval, MMLU Pro и TruthfulQA, близкие к результатам базовой модели. Доступны веса в формате Safetensors; для запуска также описано использование через Ollama. Модель распространяется по лицензии Llama 3.2. README не уточняет, какие языки проверялись именно для этой производной модели.
bunnycore/Llama-3.2-3B-Mix — диалоговая языковая модель, созданная объединением моделей с помощью mergekit и метода TIES. В качестве базовой использована chuanli11/Llama-3.2-3B-Instruct-uncensored; также в объединение вошла huihui-ai/Llama-3.2-3B-Instruct-abliterated. Модель предназначена для генерации текста и ответов в чате. Она основана на архитектуре LlamaForCausalLM, содержит 3,2 млрд параметров и поддерживает контекст до 131 072 токенов. Репозиторий содержит веса в формате safetensors; для работы используется Transformers. Данные о лицензии и поддерживаемых естественных языках в доступных источниках отсутствуют.
Bunnycore Llama-3.2-3B-Mix-Skill — диалоговая языковая модель на архитектуре Llama с 3,2 млрд параметров, созданная объединением нескольких моделей методом TIES с помощью mergekit. Базовая модель — huihui-ai/Llama-3.2-3B-Instruct-abliterated; в объединение также вошли bunnycore/Llama-3.2-3B-Long-Think и bunnycore/Llama-3.2-3B-Pure-RP. Модель предназначена для ролевых диалогов, написания длинных ответов, следования инструкциям и творческой генерации: например, рассказов, стихов и сценариев. Поддерживает текстовый ввод и генерацию текста, доступна в Transformers в формате safetensors. Заявленная длина контекста — 131072 токена. Карточка приводит результаты оценок IFEval и BBH, но не описывает методику оценки подробно. Лицензия в предоставленных данных не указана.
dfurman/Llama-3-70B-Orpo-v0.1 — англоязычная диалоговая модель, созданная dfurman дообучением Meta Llama 3 70B методом ORPO на 2 тысячах примеров из mlabonne/orpo-dpo-mix-40k. Это плотная авторегрессионная модель с 69,5 млрд параметров, рассчитанная на генерацию текста и ответы в формате ChatML; контекстное окно составляет 8192 токена. Карточка приводит результаты Open LLM Leaderboard и описывает модель как успешно дообученную для следования шаблону ChatML. Модель подходит для диалоговых помощников, ответов на вопросы и генерации текста на английском языке. Результаты тестирования различаются по бенчмаркам и не гарантируют качество для конкретного применения. Для запуска требуются значительные вычислительные ресурсы, соответствующие модели на 70 млрд параметров. Лицензия — Llama 3 (llama3); условия Meta Llama 3 распространяются на использование модели.
QuantFactory/Llama-3-8B-Magpie-Pro-MT-SFT-v0.1-GGUF — квантизированная GGUF-версия модели Llama-3-8B-Magpie-Pro-MT-SFT-v0.1, созданная с использованием llama.cpp. Исходная модель разработана на базе Meta-Llama-3-8B и дообучена методом supervised fine-tuning на наборе Magpie-Pro-MT-300K-v0.1, подготовленном проектом Magpie-Align. Проект направлен на создание открытых высококачественных данных для выравнивания языковых моделей. Модель предназначена для генерации текста и диалоговых сценариев по инструкциям. Она использует архитектуру Llama 3 с примерно 8 млрд параметров и поддерживает работу через официальный шаблон чата Llama 3. В конфигурации обучения указана максимальная длина последовательности 8192 токена. Данные о точном наборе поддерживаемых языков и мультимодальных возможностях в README не приведены; по описанию это текстовая авторегрессионная модель. Сильной стороной является обучение на 300 тысячах отобранных инструкций Magpie и заявленная сопоставимость с официальной Llama-3-8B-Instruct при использовании только SFT. Для модели приведены результаты Alpaca Eval 2: 24,21 по LC и 25,19 по WR, а также 20,4 на Arena Hard. При этом эти показатели существенно ниже указанных результатов Llama-3-8B-Instruct на Alpaca Eval 2, а влияние квантизации на качество и производительность отдельно не оценено. Для корректной работы рекомендуется использовать официальный шаблон чата Llama 3. Использование регулируется лицензией Meta Llama 3 Community License; необходимо соблюдать её условия.
g-ronimo/llama3-8b-SlimHermes — чат-модель на архитектуре Llama, созданная дообучением Meta-Llama-3-8B на 10 тысячах самых длинных примеров из набора teknium/OpenHermes-2.5. Она предназначена для генерации ответов в диалогах и следования инструкциям; пример в карточке показывает ответ на приветствие в заданном пиратском стиле. Модель содержит 7,5 млрд параметров, принимает текст и выдаёт текст, работает с контекстом до 8192 токенов и доступна в формате safetensors для Transformers. Языки в карточке не перечислены, поэтому основной язык не определён. Модель подходит для чат-ботов, ответов на запросы и экспериментов с настройкой стиля ответов. В карточке не приведены результаты оценок качества и дополнительные ограничения; лицензия указана как other, поэтому условия использования следует уточнить в репозитории модели и базовой модели перед применением.
bartowski/Llama-3-ChatQA-1.5-8B-GGUF — набор GGUF-квантизаций модели Llama-3-ChatQA-1.5-8B, первоначально разработанной NVIDIA. Модель предназначена для генерации текста и диалоговых сценариев, прежде всего для ответов на вопросы с учётом предоставленного контекста. Она поддерживает формат общения с системной инструкцией, контекстом, вопросами пользователя и ответами ассистента. Заявленный язык — английский. Модель основана на архитектуре Llama 3 и содержит около 8 миллиардов параметров. В репозитории представлены варианты квантизации Q8_0, Q6_K, Q5_K, Q4_K, IQ4, Q3, IQ3, Q2 и IQ2/IQ1 с размером файлов примерно от 2,01 до 8,54 ГБ. Квантизации выполнены bartowski с использованием llama.cpp и imatrix; варианты с более высокой разрядностью обычно сохраняют лучшее качество, а варианты с низкой разрядностью требуют меньше оперативной памяти и видеопамяти, но могут заметно уступать по качеству. Рекомендуемыми названы, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M и Q4_K_S. Сильными сторонами являются специализированная направленность на ChatQA, поддержка работы с контекстом и широкий выбор квантизированных файлов для локального запуска. Ограничения включают возможное снижение качества у низкоразрядных вариантов, англоязычную направленность и отсутствие в предоставленных данных сведений о размере контекстного окна, мультимодальности и результатах независимых тестов. Указана лицензия llama3.
Llama-3-MahouDevil-8B — объединённая языковая модель на базе архитектуры Llama 3, созданная с помощью mergekit методом Model Stock. В слияние вошли flammenai/Mahou-1.2-llama3-8B и flammenai/Mahou-1.3-llama3-8B, а базовой моделью указана mlabonne/NeuralDaredevil-8B-abliterated. Модель содержит 7,5 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. Она предназначена для генерации продолжений, диалогов и ролевых сценариев. Лицензия — Llama 3; README не приводит дополнительных сведений о качестве и ограничениях применения.
WesPro/Llama3-OrpoSmaug-Slerp-8B — плотная авторегрессионная языковая модель семейства Llama 3, созданная слиянием предварительно обученных моделей с помощью метода SLERP в mergekit. В объединение вошли Llama-3-Smaug-8B и OrpoLlama-3-8b; параметры слияния различаются для слоёв self-attention и MLP. Модель содержит 7,5 млрд параметров, распространяется в формате safetensors и имеет контекст до 8192 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов на вопросы, черновиков и продолжения текста, а также для чат-сценариев на базе Llama 3. В метаданных указана возможность chat; отдельные специализированные задачи и поддерживаемые естественные языки не перечислены. Это результат слияния, а не самостоятельное дообучение. README не указывает лицензию и не приводит оценки качества или подробные ограничения применения; совместимость лицензий исходных моделей следует проверять отдельно перед использованием.
Это дообученная версия KKHYA/llavaqwen3-1.7b-finetune, созданная разработчиком KKHYA на неизвестном датасете. Модель с архитектурой NMMaskMoELLaVAQwen3ForCausalLM и 1,7 млрд параметров предназначена для генерации текста и диалогов; поддерживает интерфейс вызова инструментов. Максимальная длина контекста — 40 960 токенов. В репозитории представлены веса PyTorch в формате safetensors. Модель можно использовать для диалоговых сценариев и генерации текста. README не приводит результатов оценки или дополнительных сведений о её специализации. Лицензия — Apache-2.0.
M7Yamshadowexperiment28_AlloyingotneoyExperiment24 — объединённая модель семейства Mistral, созданная слиянием automerger/M7Yamshadowexperiment28-7B и automerger/AlloyingotneoyExperiment24-7B. Она предназначена для генерации текста и может использоваться для диалогов, написания черновиков и продолжения текста. Модель содержит 7,1 млрд параметров, принимает текстовый ввод, работает с контекстом до 32 768 токенов и распространяется в формате Safetensors. Модель размещена на Hugging Face 9 апреля 2024 года. Лицензия Apache-2.0 разрешает использование на её условиях. Карточка не описывает специальные предметные области или подтверждённые языковые возможности, поэтому их нельзя конкретизировать; качество ответов и сильные стороны относительно исходных моделей также не заявлены.
M7Yamshadowexperiment28_AlloyingotneoyExperiment28 — объединённая модель генерации текста семейства Mistral, созданная из automerger/M7Yamshadowexperiment28-7B и automerger/AlloyingotneoyExperiment28-7B. Она предназначена для генерации текста и диалоговых сценариев. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. README не описывает специальную предметную область или отдельные языковые возможности, поэтому назначение следует считать общим. Качество, поведение при диалоге и языковое покрытие могут зависеть от исходных моделей слияния; сведений об их оценке в карточке нет.
MeliodasPercival_01_AlloyingotneoyExperiment26 — объединённая модель Mistral, созданная путём слияния automerger/MeliodasPercival_01-7B и automerger/AlloyingotneoyExperiment26-7B. Она предназначена для генерации текста и диалоговых ответов. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Доступные сведения подтверждают задачу генерации текста, но не описывают особенности обучения, качества ответов или специализированные области применения.
merged-dpo-binarized-NeutrixOmnibe-7B — языковая модель, созданная eren23 слиянием моделей eren23/dpo-binarized-NeutrixOmnibe-7B и Kukedlc/NeuTrixOmniBe-7B-model-remix методом SLERP с помощью LazyMergekit. Это плотная авторегрессионная модель семейства Mistral на 7,1 млрд параметров для генерации текста и диалоговых ответов. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Модель подходит для генерации ответов, продолжения текста и диалоговых сценариев. В README приведены результаты оценивания на Open LLM Leaderboard, включая средний балл 76,20, однако этого недостаточно, чтобы судить о качестве на конкретных прикладных задачах. Языки, на которых модель специально обучена или оценена, в доступных сведениях не установлены. Лицензия — Apache-2.0.
Это объединённая модель генерации текста, созданная с помощью mergekit методом passthrough из NousResearch/Meta-Llama-3-8B и Fizzarolli/llama-3-lust-8b-step-748. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста; репозиторий содержит веса в формате safetensors, а общий размер модели указан как 11 млрд параметров. Нативная длина контекста составляет 8192 токена. Модель может применяться для диалогов и создания продолжений текста. В карточке базовой Meta Llama указаны английский язык и код, но точный языковой охват объединённой модели не описан. Лицензия в предоставленных данных не указана.
Карточка модели mergekit-community/mergekit-slerp-kxzcrwh на Hugging Face совпадает с карточкой mergekit-community/mergekit-slerp-gpprpds, поэтому описание составлено по ней. mergekit-community/mergekit-slerp-gpprpds — языковая модель для генерации текста, созданная сообществом слиянием Equall/Saul-Base и HuggingFaceH4/zephyr-7b-beta методом SLERP через mergekit. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM, примерно 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для диалогов, ответов на вопросы и выполнения инструкций на английском языке. Слияние сочетает компоненты двух предварительно обученных моделей; репозиторий содержит веса Safetensors. Поддержка русского языка или специализированных прикладных областей в карточке не заявлена. Лицензия в предоставленных данных не указана.
MiniMA-2-3B — плотная языковая модель семейства LLaMA, разработанная авторами MiniMA как продолжение обучения MiniMA-3B. В README отмечены улучшенная смесь данных и увеличение числа обучающих токенов; дистилляция не применялась. Модель содержит 2,9 млрд параметров и поддерживает контекст до 4096 токенов. Модель предназначена для генерации текста и общих языковых задач. В карточке указаны английский и китайский языки, а среди обучающих наборов — Pile, RedPajama-Data-1T и WuDao. README приводит результаты на нескольких бенчмарках, включая MMLU, CEval, DROP и GSM8K. Модель опубликована в форматах PyTorch и Safetensors. В метаданных указана лицензия Apache-2.0, однако README отдельно требует соблюдать лицензию LLaMA 2, поскольку модель от неё производна; перед использованием следует проверить применимые условия обеих лицензий.
unsloth/MiniMax-M2.1-GGUF — это GGUF-версия модели MiniMax-M2.1, подготовленная Unsloth на базе MiniMaxAI/MiniMax-M2.1. Модель предназначена для генерации текста и локального запуска в совместимых инструментах, поддерживающих формат GGUF. В описании также упоминается технология квантования Unsloth Dynamic 2.0, заявленная как способ сохранить высокую точность при уменьшении требований к ресурсам. Модель может применяться для диалоговых сценариев, создания и преобразования текста, а также других задач text generation, однако конкретные языки, размер, архитектура, объём контекста и поддерживаемые модальности в предоставленных данных не указаны. Поэтому нельзя сделать обоснованные выводы о качестве на отдельных языках, производительности или требованиях к оборудованию. Ограничения также включают возможные потери качества, связанные с квантованием, и зависимость от совместимого локального программного обеспечения. Лицензия обозначена как modified-MIT; подробные условия необходимо уточнять по лицензии MiniMax-M2.1. Указанный README не содержит полного текста лицензионных ограничений.
MiniMax-M2.5-MLX-4bit — это 4-битная квантованная версия языковой модели MiniMax-M2.5, разработанной MiniMaxAI. Квантование выполнено командой LM Studio с использованием mlx_lm, а модель оптимизирована для запуска на устройствах Apple Silicon через фреймворк MLX. В каталоге Transformers она относится к моделям генерации текста. Модель предназначена для локальной генерации текста и диалоговых сценариев, где важны экономия памяти и эффективное выполнение на Apple Silicon. Ключевая особенность — 4-битное представление, обычно позволяющее снизить требования к ресурсам по сравнению с полноразмерной версией, однако README не содержит данных о размере исходной модели, объёме контекста, поддерживаемых языках, точных характеристиках производительности или конкретных прикладных тестах. Для использования действуют условия лицензии modified MIT; подробности приведены в лицензии MiniMax-M2.5.
Карточка модели KakaoL0L/Mistral7B_CVetOFFRE3_lora на Hugging Face совпадает с карточкой KakaoL0L/mistral_CVetOFFRElast_16bit, поэтому описание составлено по ней. KakaoL0L/mistral_CVetOFFRElast_16bit — дообученная языковая модель KakaoL0L на базе unsloth/mistral-7b-instruct-v0.2-bnb-4bit. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогового общения. Для обучения использовались Unsloth и библиотека Hugging Face TRL; модель принимает текст и генерирует текст, а заявленная длина контекста составляет 32 768 токенов. Модель может служить основой для чат-ботов и генерации ответов на текстовые запросы. В карточке указаны английский язык и лицензия Apache-2.0. Специализированная область применения и ограничения качества в описании модели не приведены.
Mistral-ORPO-Capybara-7k — диалоговая языковая модель, созданная на базе Mistral-7B-v0.1 и дообученная методом ORPO авторами репозитория KAIST AI. Модель обучали на 7 тысячах примеров многоходовых диалогов из набора argilla/distilabel-capybara-dpo-7k-binarized; ORPO позволяет оптимизировать предпочтения ответов без предварительного этапа supervised fine-tuning. Модель предназначена для генерации ответов в чат-ботах, ведения диалога и выполнения инструкций на английском языке. Она содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. В README приведены результаты сравнительных оценок на AlpacaEval, MT-Bench и IFEval, но они не гарантируют качество для конкретного применения. Вес опубликован в формате Safetensors под лицензией MIT. Дообучение на сравнительно небольшом наборе данных может ограничивать охват тем и надёжность ответов; модель также наследует ограничения базовой Mistral-7B-v0.1.