II.1Анализ требований и архитектура ПО

Nichonauta/LFM2.5-1.2B-Thinking-ToMoE-INT4 — INT4-квантизованная версия модели LFM2.5-1.2B-Thinking-ToMoE от Nichonauta, производной от LiquidAI/LFM2.5-1.2B-Thinking. Это причинная языковая модель семейства LFM2 с MoE-архитектурой для генерации текста и диалогов; в репозитории указано 1,5 млрд параметров и контекст до 128 000 токенов. Модель хранит фактические прореженные веса MoE в safetensors: линейные слои квантизованы в INT4, а маршрутизаторы, эмбеддинги и нормализации оставлены в fp32. Модель предназначена для генерации ответов и диалогового использования через Transformers. README приводит сравнение perplexity с версией fp32 и сообщает о близких результатах на указанных тестах, при этом отдельные значения для INT4 на chat-formatted тесте немного выше. Для загрузки требуется пользовательский код модели с trust_remote_code=True; авторская лицензия обозначена как other, поэтому условия использования следует сверить с файлом LICENSE репозитория. Поддерживаемые языки в метаданных: английский, арабский, китайский, французский, немецкий, японский, корейский и испанский.

PocketAiHub/LFM2.5-8B-A1B-Abliterated — производная модель, подготовленная PocketAI Model Lab на основе LiquidAI/LFM2.5-8B-A1B. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск на Apple Silicon через MLX-LM и запуск в формате GGUF с помощью llama.cpp. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский, испанский, португальский и итальянский языки. Модель имеет гибридную архитектуру с attention, свёрточными слоями, dense-компонентами и MoE-экспертами. Доступны смешанный 4-битный вариант MLX, а также варианты GGUF Q4_K_M и Q6_K; Q4_K_M ориентирован на компактность, а Q6_K — на более высокое качество. Контекстное окно и точное число параметров в README не указаны. Релиз прошёл внутреннюю валидацию возможностей и маршрутов инструментов, но приведённые результаты не являются широкими бенчмарками. Особенность модели — сниженное поведение отказа, полученное редактированием родительской модели; разработчики подчёркивают, что это не полностью «uncensored»-модель. Снижение встроенных защит может облегчать получение вредоносных, незаконных или опасных инструкций. Как и другие языковые модели, она может галлюцинировать и не подходит для решений в медицинской, юридической, финансовой и других критически важных областях без проверки человеком. Качество может меняться из-за квантизации. Модель распространяется по лицензии LFM Open License v1.0, унаследованной от Liquid AI. Лицензия содержит ограничение, связанное с коммерческой выручкой, поэтому перед использованием или распространением необходимо изучить её полный текст.

Модель arnavgrg/llama-2-13b-chat-nf4-fp16-upscaled — вариант Llama 2 13B Chat, подготовленный автором как upscaled fp16 после загрузки исходной модели с 4-битной NF4-квантизацией через bitsandbytes. Линейные слои Linear4bit преобразованы в fp16, чтобы не выполнять повторную квантизацию и деквантизацию при каждом проходе во время инференса. Модель имеет плотную архитектуру LlamaForCausalLM, около 12,9 млрд параметров и контекст 4096 токенов. Предназначена для генерации текста в диалоговом формате и может загружаться через Transformers с точностью fp16. README указывает, что веса линейных слоёв после квантизации NF4 являются lossy, поэтому качество может быть ниже официальной базовой модели. Репозиторий распространяется по лицензии Apache-2.0.

Llama-3.1-70B-Instruct-lorablated-GGUF — набор GGUF-квантизаций модели Llama-3.1-70B-Instruct-lorablated, подготовленный bartowski с использованием llama.cpp и imatrix. Базовая модель разработана mlabonne и основана на Llama 3.1 70B Instruct; README также указывает теги lorablated и uncensored, однако подробности этих изменений не приведены. Модель предназначена для генерации текста и запуска локально через llama.cpp, в том числе в LM Studio. Она поддерживает диалоговый формат Llama 3.1 с системными и пользовательскими сообщениями. Доступны варианты квантизации от Q8_0 до Q2_K и IQ2/IQ3/IQ4, размером примерно от 19 до 75 ГБ; более крупные варианты обычно обеспечивают более высокое качество, а компактные требуют меньше оперативной памяти, но сильнее теряют в качестве. README не содержит сведений о языках, размере контекста и мультимодальности. Для использования требуется совместимое локальное окружение и достаточный объём памяти, зависящий от выбранной квантизации. Рекомендуемыми названы Q6_K, Q5_K_M, Q4_K_L, Q4_K_M и IQ4_XS. Лицензия указана как llama3.1; дополнительные ограничения или условия распространения в README не раскрыты.

MOTH — чат-модель общего назначения от sequelbox, дообученная на синтетических данных высокого качества с использованием формата инструкций Llama 3.1 Instruct. Она предназначена для диалогов и выполнения разнообразных инструкций и задач; доступна версия с 7,5 млрд параметров на архитектуре Llama, принимающая текст и генерирующая текст. Заявленная длина контекста — 131 072 токена, основной язык карточки — английский. Модель построена на базе meta-llama/Meta-Llama-3.1-8B-Instruct и распространяется в формате safetensors. Карточка указывает лицензию llama3.1. Качество не проверялось вручную, а обучение опиралось на автоматически созданные наборы данных, поэтому ответы могут быть ненадёжными.

RedHatAI/Llama-3.2-1B-Instruct-FP8-dynamic — квантизированная версия Meta Llama 3.2 1B Instruct, разработанная Neural Magic. Это текстовая autoregressive-модель для генерации текста и диалоговых сценариев в формате ассистента, включая коммерческое и исследовательское использование. В README заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков, однако отдельно указано ограничение на использование языков, отличных от английского. Модель использует архитектуру Meta-Llama-3.2 и принимает текст на входе, возвращая текст. Веса и активации линейных операторов внутри transformer-блоков квантизированы в FP8; для весов применяется симметричная поканальная квантизация, а активации квантизуются динамически на уровне токенов. По сравнению с 16-битным представлением это примерно вдвое снижает требования к дисковому пространству и памяти GPU. Модель предназначена для эффективного инференса с vLLM и может предоставляться через OpenAI-совместимый интерфейс. Ключевое преимущество — снижение потребления ресурсов при сохранении близкого к исходной модели качества: средний результат на указанной подвыборке OpenLLM Leaderboard составляет 50,88 против 51,70 у неквантизированной версии. Ограничение — небольшая потеря точности после квантизации, а также необходимость совместимого окружения vLLM. Модель выпущена 25 сентября 2024 года, версия 1.0, и распространяется по лицензии llama3.2.

Bunnycore Llama-3.2-3B-ProdigyPlusPlus — объединённая диалоговая языковая модель на архитектуре Llama, созданная с помощью mergekit методом TIES. В качестве базовой модели README указывает huihui-ai/Llama-3.2-3B-Instruct-abliterated; в объединение также вошли модели Bunnycore для кода, научных рассуждений, длинных рассуждений, ролевого общения и смешанных навыков. Модель предназначена для генерации текста и ответов в чате. Она содержит 3,2 млрд параметров, работает с текстом и имеет заявленный контекст до 131 072 токенов. Метаданные отмечают интерфейс вызова инструментов; фактическое качество этой возможности не описано. Модель опубликована в формате safetensors и использует библиотеку Transformers. В README приведены результаты Open LLM Leaderboard, включая средний балл 6,44, но не дано подробного описания методики или результатов по всем задачам. Сведения о лицензии в предоставленных данных отсутствуют.

MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.2-GGUF — это квантизированная версия инструкционной языковой модели MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.2, разработанная и опубликованная MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. Для взаимодействия используется шаблон ChatML. Модель представлена в формате GGUF и доступна в вариантах квантизации от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. В названии указано 8B, то есть модель относится к классу примерно 8-миллиардных параметров; базовая архитектура связана с семейством Llama 3. README не содержит точных сведений о поддерживаемых языках, размере контекста, результатах тестирования или ограничениях качества. Сильная сторона модели — возможность локального использования с GPU-ускорением через llama.cpp, llama-cpp-python, LM Studio и другие совместимые инструменты. Лицензия в представленном README не указана, поэтому условия распространения и коммерческого использования необходимо уточнять в материалах исходной модели и репозитория.

MaziyarPanahi/Llama-3-8B-Instruct-v0.4-GGUF — это набор файлов модели в формате GGUF для MaziyarPanahi/Llama-3-8B-Instruct-v0.4. Модель разработана и квантована MaziyarPanahi и предназначена для генерации текста и диалоговых сценариев на основе инструкций. Модель относится к семейству Llama 3 и имеет размер 8B параметров, что указано в её названии. Доступны варианты квантования с разрядностью от 2 до 8 бит, поэтому можно выбирать баланс между качеством, размером файлов и требованиями к памяти. Формат GGUF поддерживается llama.cpp и рядом локальных инструментов, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие решения. К сильным сторонам относятся локальный запуск, широкий выбор уровней квантования и совместимость с популярной экосистемой GGUF. README не содержит сведений о поддерживаемых языках, длине контекста, точной архитектуре, результатах оценки, системных требованиях или лицензии, поэтому эти характеристики нельзя достоверно определить по представленным данным.

giux78/llama3-8B-usenet-merged — текстовая генеративная модель на архитектуре Llama, опубликованная пользователем giux78 на Hugging Face. По названию репозитория она связана с Usenet и представляет собой объединённую модель, однако карточка не раскрывает состав объединения, разработчика исходных моделей или точное назначение для конкретных тематик. Модель содержит около 7,5 млрд параметров, использует библиотеку Transformers и формат safetensors; заявленный контекст — 8192 токена. Предусмотрен диалоговый режим. Модель принимает текстовые запросы и генерирует текст, в том числе ответы в формате чата. Карточка не сообщает поддерживаемые языки, оценку качества, обучающие данные или конкретные ограничения. Лицензия в карточке не указана.

Llama-3-Instruct-8B-SPPO-Iter3-IMat-GGUF — это GGUF-квантизированная версия языковой модели UCLA-AGI/Llama-3-Instruct-8B-SPPO-Iter3. Модель подготовлена пользователем legraphista с использованием llama.cpp и методов IMatrix; исходный формат весов — BF16. В качестве данных для исходной модели указана коллекция openbmb/UltraFeedback. Модель предназначена для генерации текста и диалоговых сценариев на английском языке, включая работу через совместимые с llama.cpp локальные приложения. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K, а также ряд IQ-квантизаций. Размер файлов варьируется примерно от 3,18 до 16,07 ГБ, что позволяет выбирать между качеством и требованиями к памяти. Для ряда вариантов с более сильным сжатием применена IMatrix, призванная уменьшить потери качества при квантовании. Сильной стороной модели является возможность локального запуска в формате GGUF и широкий выбор уровней квантования, включая варианты, оптимизированные для ограниченных ресурсов. Ограничения включают потенциальное снижение качества при использовании низкобитных вариантов; конкретные характеристики контекстного окна, архитектуры, мультимодальности и производительности в README не указаны. Лицензия — Apache 2.0.

skyai798/llama-dpo-r1 — дообученная языковая модель семейства Llama, созданная на основе skyai798/llama-cot-sft-seed99. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат весов safetensors; для работы указана библиотека Transformers. Заявленная длина контекста — 131072 токена. Модель предназначена для генерации текста и диалогового взаимодействия. README указывает, что её дообучили на наборе safe_40000_helpful_40000; метаданные также отмечают интерфейс вызова инструментов. Подробности о качестве, конкретных сценариях применения и языковом покрытии в доступной карточке не приведены. Лицензия обозначена как other, поэтому условия использования следует проверять в файлах репозитория.

KKHYA/llavaqwen2.5-32b-finetune-nm-mask-moe-4e-2k-2of4-imp-h200_20260815_093205 — языковая модель на архитектуре LlavaQwen2ForCausalLM с 32 млрд параметров. В метаданных указаны библиотека Transformers, форматы PyTorch и Safetensors, а также контекст длиной до 131072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. README сообщает, что модель обучена с нуля, но не содержит сведений о датасете, оценке качества или предполагаемых сценариях применения. Лицензия в предоставленных данных не указана.

Это дообученная модель KKHYA на базе KKHYA/llavaqwen3-1.7b-finetune. Модель содержит 1,7 млрд параметров, использует архитектуру LatentMoELLaVAQwen3ForCausalLM и предназначена для генерации текста и диалогов. Доступны интерфейс чата и интерфейс вызова инструментов. Модель принимает текст и выдаёт текст. Заявленная длина контекста — 40 960 токенов. Она распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0. Данные обучения и специальные сценарии применения в карточке не описаны.

Это дообученная модель KKHYA на 1,7 млрд параметров, созданная на основе KKHYA/llavaqwen3-1.7b-finetune. Она использует архитектуру NMMaskMoELLaVAQwen3ForCausalLM и предназначена для генерации текста и диалогов; интерфейс модели также предусматривает вызов инструментов. Модель принимает текст и выдаёт текст. Максимальная длина контекста составляет 40 960 токенов. Данные обучения и специальные сценарии применения в карточке не описаны, поэтому её можно рассматривать как модель общего назначения без подтверждённой специализации. Модель распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0.

Magnum v4 123B — языковая модель Anthracite, предназначенная для генерации диалоговых ответов и прозы с качеством, близким к Claude 3 Sonnet и Opus. Это полноразмерное дообучение Mistral Large Instruct 2407 на наборах данных Anthracite, связанных с диалогами, инструкциями и прозой. Модель имеет плотную архитектуру MistralForCausalLM и 122,2 млрд параметров. Она принимает текст и генерирует текст, поддерживает английский язык и контекст до 131 072 токенов. В метаданных также отмечен интерфейс вызова инструментов. Для запросов используется шаблон Mistral Instruct с маркерами [INST] и [/INST]. Модель подходит для диалоговых приложений и задач генерации прозы. Доступна в формате safetensors через Transformers. Лицензия указана как other; README не приводит её конкретные условия.

magnum-v4-9b-GGUF — набор GGUF-квантизаций языковой модели magnum-v4-9b, разработанной anthracite-org и квантизированной bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и чат-сценариев, а запускать её можно, в частности, через LM Studio. Указан английский язык и формат prompt с ролями system, user и assistant. В набор входят варианты от F16 до низкобитных Q2 и IQ2/IQ3-квантизаций с размерами файлов примерно от 3,43 до 18,49 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, но требуют больше памяти; для некоторых вариантов заявлены оптимизации под ARM, включая требования к поддержке sve или i8mm. Сильная сторона набора — широкий выбор компромиссов между качеством и потреблением памяти, при этом Q5–Q6 и некоторые Q4-варианты отмечены как рекомендуемые. Ограничения включают снижение качества у низкобитных вариантов и отсутствие данных о размере контекста, архитектуре исходной модели, мультимодальности и дополнительных языках. Лицензия указана как gemma.

MAmmoTH2-7B-Plus — языковая модель TIGER-Lab для генерации ответов и диалогового общения с усиленными навыками рассуждения. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, дообученная на инструкциях, собранных из веб-корпуса, и дополнительно обученная на открытых наборах инструкций. Модель принимает текст и поддерживает контекст до 32 768 токенов. Модель рассчитана на решение математических задач, ответы на вопросы и общение в формате чат-бота. В README приводятся результаты оценки MAmmoTH2-7B на математических тестах и отмечается, что качество зависит от сложности и особенностей задачи; математические области охвачены не полностью. Эти цифры относятся к MAmmoTH2-7B, а не непосредственно к версии Plus. Модель распространяется по лицензии MIT.

Marin 8B Base — базовая языковая модель для генерации текста, разработанная сообществом marin-community. Данный репозиторий содержит её квантованные версии в формате GGUF, подготовленные mradermacher с использованием imatrix-квантования. Модель ориентирована на работу с англоязычным текстом и предназначена для локального запуска в совместимых инструментах и библиотеках. Модель обучалась на смеси наборов данных, включающей Dolmino и OLMo Mix, StarCoderData, Proof-Pile-2, MegaWika, DCLM, FineMath, материалы ar5iv, научные вопросы, Stack Exchange и Wikipedia. Это делает её пригодной для общих задач генерации и продолжения текста, работы с техническими и научными материалами, программным кодом и структурированным контентом. Из доступных данных известно, что это модель примерно на 8 миллиардов параметров; сведения об архитектуре, размере контекста и поддержке дополнительных модальностей не указаны. Репозиторий предлагает широкий диапазон квантований с размером файлов примерно от 2,1 до 6,7 ГБ. Более компактные варианты требуют меньше памяти, но могут заметно уступать по качеству; в README в качестве сбалансированных вариантов отмечены i1-Q4_K_S и i1-Q4_K_M, а i1-Q6_K описан как близкий к статическому Q6_K по качеству. Модель является базовой, поэтому её возможности диалогового взаимодействия и следования инструкциям отдельно не заявлены. Распространение выполняется по лицензии Apache 2.0.

MasherAI-7B-v1 — диалоговая языковая модель, разработанная mahiatlinux и дообученная на openchat/openchat-3.5-0106. Модель построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров; для обучения использовались Unsloth и TRL. Модель предназначена для генерации текста в формате диалога: её можно применять для общения, ответов на вопросы и помощи с программированием и математическими рассуждениями — эти возможности описаны для базовой модели OpenChat. Поддерживаемый язык карточки — английский, длина контекста составляет 8192 токена. Модель распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0. Карточка не приводит отдельной оценки качества или подробных ограничений MasherAI-7B-v1.

Matter 8x22B 0.2 — разговорная языковая модель, выпущенная 0-hero и дообученная на датасете Matter 0.2. Она предназначена для диалога с ассистентом и генерации текста; поддерживает формат запросов ChatML и вызов функций. Архитектура — Mixtral MoE с классом MixtralForCausalLM; в репозитории находятся веса PyTorch в формате safetensors. Модель содержит 22 млрд параметров и поддерживает контекст до 65 536 токенов. Карточка рекомендует использовать системную инструкцию «You are a helpful assistant». Модель ориентирована на английский язык. Она распространяется по лицензии Apache-2.0. Карточка не сообщает результаты бенчмарков или конкретные ограничения качества, поэтому пригодность для заданной области следует оценивать на собственных примерах.

mauxi-v0-3B — диалоговая языковая модель, опубликованная пользователем xmanii на Hugging Face. Это дообученная с помощью TRL модель семейства Qwen2 с плотной архитектурой и 3,1 млрд параметров; для генерации текста используется Transformers, веса хранятся в формате safetensors. Модель поддерживает контекст до 32 768 токенов и предназначена для диалоговой генерации текста. Модель принимает сообщения в формате беседы и генерирует текстовый ответ; в метаданных также отмечен интерфейс вызова инструментов. Карточка демонстрирует пример ответа на открытый вопрос, но не приводит сведения о конкретных обучающих данных, языковом охвате и сравнительных результатах. Лицензия в предоставленных данных не указана.

MiniCPM-2B-sft-fp32 — версия языковой модели MiniCPM-2B после instruction fine-tuning (SFT), представленная в формате FP32. Её разработали ModelBest и лаборатория обработки естественного языка Университета Цинхуа. Модель построена на архитектуре MiniCPMForCausalLM, содержит 2,7 млрд параметров и предназначена для генерации текста и диалоговых ответов на английском и китайском языках. Максимальная длина контекста — 4096 токенов. Модель подходит для диалоговых систем, ответов на вопросы, а также генерации текстов, кода и решений математических задач. Разработчики отмечают её компактный размер и возможность развёртывания на устройствах с ограниченными ресурсами после квантизации; этот репозиторий содержит веса FP32. В карточке указана лицензия other, а README сообщает об открытых весах для академических исследований и ограниченного коммерческого использования. Известные ограничения — склонность к галлюцинациям, зависимость ответов от формулировки запроса и вариативность результатов при повторных попытках; знания модели могут быть неточными. Качество генерации в Transformers, по сообщению авторов, может быть ниже, чем при использовании vLLM.

aemmeath/MiniCPM5-Aether — дообученная языковая модель на архитектуре Llama, созданная разработчиком aemmeath на основе openbmb/MiniCPM5-2B. Модель содержит 2,2 млрд параметров, принимает текст и предназначена для генерации текста и диалогового использования; метаданные также отмечают интерфейс вызова инструментов. Нативная длина контекста составляет 131 072 токена, язык карточки — английский. Модель подойдёт для создания диалоговых ассистентов и генерации ответов с использованием длинного контекста. README сообщает о дообучении с помощью Unsloth и библиотеки TRL, но не приводит результаты оценки качества или специализированные области применения. Лицензия — Apache-2.0.

Карточка модели Iambackup/MiniMax-M2.5-UNCENSORED-JANG_2L на Hugging Face совпадает с карточкой Ishowbackup/MiniMax-M2.5-UNCENSORED-JANG_2L, поэтому описание составлено по ней. MiniMax-M2.5-UNCENSORED-JANG_2L — производная модель MiniMaxAI/MiniMax-M2.5, подготовленная Jinho Jang. Это языковая модель с архитектурой MiniMax M2 MoE и интерфейсами чата и вызова инструментов. В README указаны 230 млрд параметров, 256 экспертов и около 10 млрд активных параметров на токен; смешанная квантизация JANG_2L задаёт 8 бит для внимания, 6 бит для эмбеддингов и 2 бита для экспертов. Метаданные указывают 2,9 млрд параметров, поэтому оценку размера из README следует считать расходящейся с ними. Для хранения требуется около 63 ГБ; формат JANG поддерживается MLX Studio и пакетом jang-tools на Apple Silicon. Контекст — 196 608 токенов. Модель предназначена для генерации ответов в чате, рассуждений и работы с инструментами. README также описывает CRACK — изменение весов, удаляющее отказы, связанные с защитными настройками; это может позволить получать вредоносные или опасные ответы. В README приведены результаты тестов MMLU и HarmBench, но они не являются независимой оценкой качества. Лицензия в метаданных — Apache-2.0; модель рассчитана на английский, китайский и корейский языки.

Mistral7B-PairRM-SPPO-ExPO — диалоговая языковая модель на архитектуре Mistral, созданная экстраполяцией ExPO на основе UCLA-AGI/Mistral7B-PairRM-SPPO и mistralai/Mistral-7B-Instruct-v0.2. Разработчик применил коэффициент экстраполяции 0,3 к весам контрольных точек SFT и DPO/RLHF для улучшения согласования с предпочтениями людей. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленное контекстное окно — 32 768 токенов. Она предназначена для диалогов и генерации ответов общего назначения. В README приведены результаты оценки на AlpacaEval 2.0 и MT-Bench, однако они не гарантируют аналогичного качества в других сценариях. Модель распространяется в формате safetensors по лицензии Apache-2.0. Язык карточки и языковой тег метаданных — английский.

RESMPDEV/Mistral-7B-v0.2 — конвертированная сборка весов Mistral AI на основе Mistral-7B-v0.2. Репозиторий содержит плотную авторегрессионную модель MistralForCausalLM примерно с 7,1 млрд параметров и контекстом до 32 768 токенов; веса представлены в формате PyTorch и safetensors. Модель предназначена для генерации текста и диалогового использования. Автор карточки сообщает, что веса FP16 были напрямую преобразованы из монолитного файла pickle в safetensors с построением индекса. В README отмечены неоптимальность конвертации и возможное смешение файлов Mistral-7B-v0.1 и v0.2; эту сборку автор описывает как предварительную и рекомендует дождаться официального релиза весов FP16 от Mistral AI. Лицензия — Apache-2.0.

Mistrality-7B — языковая модель для генерации текста и диалогов, созданная flemmingmiguel путём слияния моделей argilla/distilabeled-Hermes-2.5-Mistral-7B и EmbeddedLLM/Mistral-7B-Merge-14-v0.4 методом SLERP с помощью LazyMergekit. Модель основана на архитектуре MistralForCausalLM и содержит 7,1 млрд параметров; контекст — до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель подходит для диалоговых ассистентов, генерации ответов и продолжения текста. В карточке не приведены сведения о целевых языках, специальных областях применения или результаты сравнительных оценок, поэтому качество в конкретных сценариях не установлено. Лицензия — Apache-2.0.

mistral-megamerge-dare-7b — объединённая разговорная языковая модель на архитектуре Mistral, созданная martyn на основе Mistral-7B-Instruct-v0.2 и нескольких моделей Mistral 7B для кода и диалога. Слияние выполнено методом DARE с параметрами p=0.12 и lambda=2.1. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленный контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогов на английском языке. Репозиторий содержит веса в формате safetensors, лицензия — MIT. Карточка не описывает отдельные результаты оценки качества или гарантии для конкретных задач.

ToastyPigeon выпустил альтернативную версию Meadowlark — объединённую разговорную модель на базе Mistral-Small-Instruct-2409 и двух производных моделей: Alfitaria/mistral-small-fujin-qlora и ToastyPigeon/mistral-small-springdragon-qlora. Вариант отличается от Meadowlark заменой обучающей выборки Creative_Writing_Multiturn на Sunfall v0.7.0, чтобы сделать ролевые диалоги менее синтетическими на ощупь. Модель имеет плотную архитектуру Mistral с 22 млрд параметров и контекстом до 131 072 токенов. Она предназначена для генерации текста и диалогов, включая ролевые сценарии; метаданные также отмечают интерфейс вызова функций. Используются Transformers и формат safetensors. Лицензия в предоставленных данных не указана.