I.5Создание и редактирование текста

Карточка модели rombodawg/Meta-Llama-3.1-8B-reuploaded на Hugging Face совпадает с карточкой unsloth/Meta-Llama-3.1-8B, поэтому описание составлено по ней. Meta-Llama-3.1-8B — плотная авторегрессионная языковая модель семейства Llama, опубликованная Meta и представленная в репозитории Unsloth в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев; карточка также описывает её как основу для дообучения с помощью ноутбуков Unsloth. Модель содержит 7,5 млрд параметров, работает с текстом и поддерживает контекст длиной до 131 072 токенов. В метаданных указан английский язык. Для использования действует лицензия Llama 3.1. README не приводит результатов оценки качества или подробных ограничений применения.

ibnzterrell/Meta-Llama-3.3-70B-Instruct-AWQ-INT4 — это 4-битная AWQ-квантизированная версия Meta-Llama-3.3-70B-Instruct, первоначально выпущенной Meta AI и опубликованной в данном варианте пользователем ibnzterrell. Модель представляет собой крупную instruction-tuned языковую модель с текстовым вводом и выводом, предназначенную для генерации текста и многоязычного диалога. Модель подходит для чат-ассистентов, ответов на вопросы и других сценариев текстовой генерации на английском, французском, итальянском, португальском, хинди, испанском, тайском и немецком языках. Исходная модель имеет размер 70B параметров; доступный вариант использует INT4-квантизацию AWQ с GEMM-ядрами, zero-point quantization и размером группы 128. Для загрузки контрольной точки требуется около 35 ГиБ VRAM без учёта KV-кэша и CUDA Graphs, поэтому необходим некоторый дополнительный запас видеопамяти. Поддерживаются Transformers, AutoAWQ, Text Generation Inference и vLLM. К основным преимуществам относятся значительно сниженные требования к памяти по сравнению с полноточной версией и возможность запуска большой многоязычной instruction-tuned модели на совместимом оборудовании. Ограничения связаны с потерями качества, возможными при 4-битной квантизации, высокой потребностью в ресурсах и тем, что README не содержит сведений о длине контекста. Модель распространяется по лицензии Llama 3.3.

QuantFactory/Meta-Llama-3-70B-Instruct-GGUF — это квантованная версия инструкционной большой языковой модели Meta Llama 3 70B Instruct, подготовленная QuantFactory в формате GGUF. Базовая модель разработана Meta. Модель предназначена для генерации текста и выполнения инструкций в сценариях, где требуется диалоговое взаимодействие или создание текстового контента. В README указано, что поддерживается английский язык и используется задача text-generation. Известно, что модель относится к семейству Llama 3 и имеет размер 70B параметров. Формат GGUF предназначен для совместимого локального запуска, однако конкретный вариант квантования, требования к памяти, длина контекста и поддерживаемые программные средства в README не указаны. Также отсутствуют сведения о дополнительных модальностях, поэтому модель следует рассматривать как текстовую. К сильным сторонам относятся инструкционная настройка базовой модели и возможность использования квантованного GGUF-представления для локального вывода. Ограничения включают отсутствие подробностей о типе и качестве квантования, а также о производительности. Использование регулируется Meta Llama 3 Community License. При распространении модели или продуктов на её основе требуется соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Meta Llama 3», сохранение атрибуции Meta и соблюдение Acceptable Use Policy.

Meta-Llama-3-70B-Instruct-GGUF — квантизированная GGUF-версия инструкционной языковой модели Meta-Llama-3-70B-Instruct, разработанной Meta. Квантизацию и публикацию сборок выполнила Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев с использованием шаблона llama-3-chat, включая ответы на пользовательские запросы и работу с системными инструкциями. Модель относится к семейству Llama и имеет размер 70B параметров. В README указана поддержка английского языка, текстовая модальность и контекстное окно до 8192 токенов. Доступны варианты GGUF с точностью от 2 до 8 бит, а также f16; размеры файлов зависят от варианта и составляют примерно от 26,4 до 50 ГБ для основных квантизированных сборок. Варианты Q4_K_M, Q5_K_M и Q5_K_S отмечены как рекомендуемые благодаря балансу между качеством и размером. Сильной стороной модели является большой размер и возможность локального запуска через совместимые инструменты, включая LlamaEdge. Ограничения связаны с высокими требованиями к дисковому пространству и вычислительным ресурсам, а низкобитные варианты могут заметно терять в качестве; README не рекомендует некоторые из них для большинства задач. Лицензия указана как llama3 с типом other; перед использованием необходимо учитывать условия лицензии Meta Llama 3.

QuantFactory/Meta-Llama-3-8B-GGUF — это GGUF-квантизированная версия Meta Llama 3 8B, разработанная Meta и опубликованная QuantFactory. Модель предназначена для генерации текста и кода, включая текстовые приложения и диалоговые сценарии. Она принимает только текстовые входные данные и генерирует текст или программный код. Модель представляет собой авторегрессионную языковую модель на основе оптимизированной архитектуры Transformer с Grouped-Query Attention (GQA). Она содержит 8 млрд параметров, имеет контекстное окно 8 тысяч токенов и обучалась на новом сочетании общедоступных онлайн-данных объёмом более 15 трлн токенов. В README указан английский язык. Квантизация в формате GGUF может повысить эффективность локального вывода, однако конкретные параметры квантизации и требования к ресурсам не указаны. Сильными сторонами модели являются компактный для семейства Llama 3 размер, поддержка генерации текста и кода, а также оптимизация GQA для масштабируемости инференса. Ограничения включают текстовую модальность, статичность обученной версии и дату отсечения знаний — март 2023 года. Для instruction-tuned вариантов Llama 3 заявлены оптимизация диалогового взаимодействия, полезности и безопасности, но README не уточняет, является ли данный GGUF-файл предварительно обученной или instruction-tuned версией. Использование регулируется специальной коммерческой лицензией Llama 3 от Meta.

Metis-0.4-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 от Mistral AI и Metis-0.4 методом SLERP. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка описывает способ слияния, но не приводит специальных оценок качества или ограничений; возможности и результаты могут зависеть от языка запроса и конкретного сценария применения.

MFANN3bv0.19.12 — слитая модель для генерации текста, созданная netcat420 с помощью mergekit. Она объединяет liminerity/Phigments12, netcat420/MFANN3bv0.19 и netcat420/MFANN3bv0.19.11 методом TIES; в конфигурации указаны нормализация, int8-маска и формат bfloat16. Модель построена на архитектуре PhiForCausalLM, содержит 3,5 млрд параметров и принимает контекст до 32 768 токенов. Репозиторий использует Transformers и хранит веса в safetensors. Модель предназначена для генерации текста по текстовому запросу и может применяться для диалогов, черновиков и продолжения текста. Данные не уточняют специализацию по темам или языкам. Условия лицензирования в предоставленных сведениях не описаны.

MFANN-phigments-slerp-V2 — слитая языковая модель семейства Phi, созданная с помощью mergekit методом TIES на основе liminerity/Phigments12 с включением двух моделей netcat420: MFANN-Phigments12-slerp и MFANN-phigments-slerp-1a. Модель предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель содержит 3,5 млрд параметров, использует архитектуру PhiForCausalLM и распространяется в формате safetensors для Transformers. В README не описаны конкретные специализации или языковые возможности, поэтому модель можно охарактеризовать как генеративную языковую модель общего назначения. Лицензия в предоставленных данных не указана.

cgteen/mindspark-bot-v1-full — дообученная модель генерации текста на архитектуре Mistral, разработанная cgteen на основе unsloth/mistral-7b-v0.3-bnb-4bit. Модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. В карточке указано, что модель обучали с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста; конкретные предметные сценарии и специализированные возможности в карточке не описаны. Указанная лицензия — Apache-2.0.

mindy-7b-v2-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением mindy-labs и Mistral-7B-Instruct-v0.2 методом SLERP. Модель построена на архитектуре Mistral с 7,1 млрд параметров и предназначена для генерации текста и ответов на инструкции в формате чата. Контекст — до 32 768 токенов. Модель принимает текст и генерирует текстовые ответы; в карточке указана поддержка диалогового режима. Она может применяться для чат-ботов, ответов на вопросы и выполнения инструкций. Репозиторий содержит веса в формате safetensors. Лицензия — Apache 2.0.

MRAIRR/minillama3_8b_all — диалоговая языковая модель семейства Llama, основанная на allganize/Llama-3-Alpha-Ko-8B-Instruct. Это плотная авторегрессионная модель для генерации текста и чата с 7,5 млрд параметров и контекстом до 8192 токенов. Репозиторий содержит веса PyTorch; модель создана на основе базовой модели Allganize, однако способ её получения в карточке не уточнён. Она предназначена для диалогов и генерации текста. Лицензия — Apache 2.0.

miqu-1-120b — крупная текстовая языковая модель, созданная wolfram с помощью mergekit: слои модели miqu-1-70b-sf были объединены методом passthrough в конфигурацию из 140 слоёв. Модель содержит около 120,1 млрд параметров, использует архитектуру Llama и рассчитана на генерацию текста и диалоговое общение. Максимальный контекст — 32 764 токена; в README указан шаблон запросов Mistral `[INST] ... [/INST]`. Модель предназначена для диалогов, ответов на вопросы, написания и продолжения текста. В карточке перечислены английский, немецкий, французский, испанский и итальянский; отзывы пользователей отмечают связность диалога и удержание контекста, а также отдельные случаи слабого следования инструкциям. Доступны варианты квантования EXL2 и GGUF. Лицензия указана как `other`; README сообщает, что использованы утёкшие веса, поэтому правовой статус и условия использования требуют отдельной проверки.

Карточка модели NostraEmpire/mirror-granite-3.1-8b-instruct на Hugging Face совпадает с карточкой ibm-granite/granite-3.1-8b-instruct, поэтому описание составлено по ней. Granite-3.1-8B-Instruct — языковая модель IBM Granite Team для выполнения инструкций и создания диалоговых ассистентов. Это дообученная на базе Granite-3.1-8B-Base плотная авторегрессионная трансформерная модель на 8,2 млрд параметров; при обучении использовались supervised fine-tuning, выравнивание с помощью обучения с подкреплением и слияние моделей. Архитектура включает GQA, RoPE, SwiGLU и RMSNorm. Модель принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций. Поддерживает диалоги на английском, немецком, испанском, французском, японском, португальском, арабском, чешском, итальянском, корейском, нидерландском и китайском языках. Лучше всего модель обучена следовать инструкциям на английском; качество на других языках может быть ниже. Она может выдавать неточные, предвзятые или небезопасные ответы. Лицензия — Apache 2.0.

Misgit-7B-slerp — объединённая языковая модель, созданная с помощью LazyMergekit из fblgit/UNA-TheBeagle-7b-v1 и mistralai/Mistral-7B-v0.1. В основе лежит архитектура Mistral с плотной причинной языковой моделью на 7,1 млрд параметров; веса объединены методом slerp и сохранены в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев на основе текстового ввода. Указанное контекстное окно составляет 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0.

Miss.Z-V0.1 — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit методом SLERP из HuggingFaceH4/zephyr-7b-beta и mistralai/Mistral-7B-Instruct-v0.3. Репозиторий содержит веса в формате Safetensors; модель насчитывает 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов, а её интерфейс также поддерживает вызов инструментов. Она принимает текст и выдаёт текст. Данные о конкретных языках применения и специализированных предметных областях не приведены. Модель опубликована 9 сентября 2024 года. Условия лицензии в предоставленных данных не указаны.

Mistral-11B-OmniMix-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная MaziyarPanahi слиянием mistralai/Mistral-7B-Instruct-v0.2 и Undi95/Mistral-11B-OmniMix методом SLERP через MergeKit. Модель использует архитектуру MistralForCausalLM с плотной трансформерной сетью, содержит 7,1 млрд параметров и принимает текст для генерации ответов и диалогов. Контекст — до 32 768 токенов. Модель подходит для чат-общения, выполнения инструкций и генерации текста. В репозитории веса представлены в формате safetensors; лицензия — Apache-2.0. README не приводит отдельной оценки качества или подробностей о языковом покрытии и ограничениях, поэтому специфические преимущества и недостатки слияния не описаны.

cloudyu/mistral_18B_instruct_v0.1 — разговорная модель для генерации текста, разработанная на архитектуре Mistral и дообученная методом SFT на vicgalle/alpaca-gpt4. В README указано 80 слоёв; по метаданным модель содержит 17,6 млрд параметров, использует MistralForCausalLM и имеет контекст до 32 768 токенов. Модель предназначена для диалогов и выполнения инструкций в формате «инструкция — входные данные — ответ». Она принимает текст и генерирует текст. Репозиторий содержит веса в формате Safetensors; лицензия — CC BY 4.0. Карточка не описывает отдельные специализированные предметные области или подробные оценки качества.

Narkantak/Mistral-2x7b-Instruct-1x2 — объединённая диалоговая языковая модель на архитектуре Mistral, созданная методом TIES из mistralai/Mistral-7B-Instruct-v0.1 и mistralai/Mistral-7B-Instruct-v0.2. Несмотря на название, в метаданных указано 7,1 млрд параметров. Модель предназначена для генерации текста в ответ на запросы и инструкции, в том числе для диалога; контекст составляет до 32 768 токенов. Модель принимает текст и выдаёт текст. Карточка указывает на объединение двух instruct-моделей, но не сообщает о специальных областях применения или поддерживаемых естественных языках. Репозиторий содержит веса в формате safetensors. Условия лицензии в предоставленных данных не указаны.

Mistral-7B-claude-instruct-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.2 и Norquinal/Mistral-7B-claude-instruct методом SLERP. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и ответы на инструкции в формате чата; заявленная длина контекста — до 32 768 токенов. Модель подходит для диалоговых приложений, ответов на вопросы и генерации текста по запросу. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0.

Mistral-7b-FFT-Test3-Mistral-7B-Instruct-v0.1 — объединённая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием mistralai/Mistral-7B-Instruct-v0.1 и Dans-DiscountModels/Mistral-7b-FFT-Test3 методом SLERP; в конфигурации указана точность bfloat16. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Она поддерживает контекст до 32 768 токенов и представлена в формате safetensors. Лицензия — Apache-2.0. Карточка не сообщает о специальных областях применения или языках модели.

MaziyarPanahi/mistral-7b-finetuned-orca-dpo-v2-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная с помощью слияния SLERP весов mistralai/Mistral-7B-Instruct-v0.1 и lvkaokao/mistral-7b-finetuned-orca-dpo-v2. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы; поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. В метаданных указана лицензия Apache-2.0. Карточка не описывает отдельную специализацию по языкам или предметным областям.

Mistral-7B-Instruct-guidance-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая языковая модель на базе Mistral-7B-Instruct-v0.2 и Mistral-7B-Instruct-guidance. Модели объединены методом SLERP с настройками по слоям и типам блоков; архитектура — плотная причинная модель MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для генерации текста в диалогах и ответов на инструкции. Она принимает текст, поддерживает контекст до 32 768 токенов и выдаёт текст. В метаданных не указаны поддерживаемые естественные языки; поэтому конкретные языки не перечисляются. Репозиторий распространяется в формате safetensors по лицензии Apache-2.0.

Mistral-7B-Instruct-v0.2 — диалоговая инструкцияязычная модель семейства Mistral, разработанная Mistral AI. Это плотная причинная языковая модель на 7,1 млрд параметров для генерации текста и ответов на запросы в формате чата; для работы с ней в README приведены примеры токенизации и инференса через mistral-common и mistral-inference. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Репозиторий содержит веса PyTorch в формате safetensors и распространяется по лицензии Apache-2.0. Карточка характеризует её как быструю демонстрацию возможностей дообучения базовой модели. В README отмечено, что у модели нет встроенных механизмов модерации, поэтому её ответы могут не соблюдать ограничения безопасности и требуют соответствующей защиты при развёртывании.

Карточка модели sagar-rasakonda/Mistral-7B-Instruct-v0.2 на Hugging Face совпадает с карточкой mistralai/Mistral-7B-Instruct-v0.2, поэтому описание составлено по ней. Mistral-7B-Instruct-v0.2 — диалоговая языковая модель Mistral AI для генерации ответов на инструкции и сообщения пользователя. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров; для общения используется формат instruct. Она рассчитана на чат, ответы на вопросы, объяснения и другие задачи генерации текста. В метаданных указан контекст до 32 768 токенов. Модель принимает текст и генерирует текст. Карточка показывает пример кодирования запроса и генерации ответа, но не приводит перечень поддерживаемых языков или специализированных областей. Модель выпущена под лицензией Apache-2.0. По заявлению авторов, это демонстрация возможностей дообучения базовой модели; встроенных механизмов модерации нет, поэтому ответы могут не соблюдать заданные ограничения.

Mistral-7B-Instruct-v0.2-expanded — разговорная языковая модель, созданная Arcee AI на основе mistralai/Mistral-7B-Instruct-v0.2. Авторы расширили блоки модели с помощью метода passthrough из mergekit: после каждого пятого слоя добавлен новый слой, в котором параметры o_proj и down_proj инициализированы нулями по подходу LLaMA Pro. Модель имеет плотную архитектуру MistralForCausalLM, содержит 8,9 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Репозиторий содержит веса в формате safetensors; использовать модель можно через библиотеку Transformers. Лицензия в предоставленных данных не указана.

MaziyarPanahi/Mistral-7B-Instruct-v0.3 — версия Mistral-7B-Instruct-v0.3, размещённая Maziyar Panahi. Это плотная языковая модель Mistral на 7,1 млрд параметров, дообученная следовать инструкциям на основе Mistral-7B-v0.3. Она предназначена для диалогов и генерации ответов на текстовые запросы, включая сценарии с вызовом функций. Модель поддерживает контекст до 32 768 токенов и использует формат safetensors. Модель подходит для чат-ботов, ответов на вопросы, следования инструкциям и генерации текста. В README указаны расширенный словарь токенизатора и поддержка function calling. Карточка предупреждает, что у модели нет механизмов модерации, поэтому её ответы могут не соответствовать требованиям к ограничению контента. Лицензия — Apache-2.0.

Mistral-7B-Instruct-v0.3 — плотная языковая модель Mistral AI на 7,1 млрд параметров, дообученная следовать инструкциям на базе Mistral-7B-v0.3. Она предназначена для диалогов, генерации текста по запросам и вызова функций. Модель поддерживает контекст до 32 768 токенов, использует токенизатор v3 и расширенный словарь из 32 768 токенов; для работы доступны веса в формате safetensors. Модель подходит для чат-ботов, ответов на вопросы и выполнения инструкций в приложениях, использующих генерацию текста. Карточка не указывает конкретные языки обучения или поддержки. В README отмечено, что у модели нет встроенных механизмов модерации, а сам чекпойнт предоставлен «как есть» и может быть неактуальным. Лицензия — Apache-2.0.

solidrust/Mistral-7B-Instruct-v0.3-AWQ — это 4-битно квантованная версия Mistral-7B-Instruct-v0.3, разработанной компанией Mistral AI (mistralai) и опубликованной в формате AWQ пользователем Suparious. Модель представляет собой большую языковую модель с авторегрессионной архитектурой для генерации текста и была дообучена на выполнение инструкций. Модель предназначена для диалоговых сценариев, ответов на запросы пользователей, генерации и обработки текста, а также задач, где требуется следование инструкциям. Базовая версия Mistral-7B-v0.3 получила расширенный словарь размером 32768 токенов, поддержку токенизатора v3 и function calling. README не указывает поддерживаемые языки и размер контекстного окна. Ключевое преимущество версии AWQ — снижение требований к памяти и потенциально высокая скорость инференса при сохранении качества, сопоставимого с распространёнными настройками GPTQ. Ограничением является поддержка преимущественно Linux и Windows с графическими процессорами NVIDIA; для macOS рекомендуется использовать модели в формате GGUF. Для запуска доступны AutoAWQ, vLLM, Text Generation Inference, Transformers и Text Generation WebUI. Модель распространяется по лицензии Apache-2.0.

SanctumAI/Mistral-7B-Instruct-v0.3-GGUF — это квантизированная версия инструкционной языковой модели Mistral-7B-Instruct-v0.3, разработанной Mistral AI и подготовленной в формате GGUF командой SanctumAI. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая использование через локальные приложения, поддерживающие GGUF. Она также поддерживает function calling. Модель основана на Mistral-7B-v0.3 и использует расширенный словарь размером 32 768 токенов и tokenizer v3. В репозитории доступны варианты квантизации от Q2_K до Q8_0, а также версия f16; размер файлов составляет примерно от 2,72 до 14,50 ГБ. Для полного контекста до 32 000 токенов заявленные требования к памяти варьируются от 6,78 до 17,74 ГБ в зависимости от варианта. README не указывает поддерживаемые языки и мультимодальные возможности, поэтому модель следует считать текстовой. Ключевое преимущество — возможность запускать модель локально с выбором компромисса между размером, требованиями к памяти и сохранением качества. Ограничения связаны с потерями качества при низкой степени квантизации и с тем, что это сравнительно компактная 7-миллиардная модель, поэтому её возможности уступают более крупным моделям в сложных задачах. Модель распространяется по лицензии Apache-2.0.

Mistral-7B-KNUT-v0.2-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 и Mistral-7B-KNUT-v0.2 методом SLERP с помощью MergeKit. Модель построена на архитектуре Mistral с 7,1 млрд параметров и принимает текстовые запросы, чтобы генерировать ответы и следовать инструкциям в диалоговом формате. Модель подходит для чат-ботов, ответов на инструкции и генерации текста. Её контекст составляет до 32 768 токенов. Файлы модели представлены в формате safetensors; лицензия — Apache-2.0. В карточке не заявлены отдельные языки или специализированные области применения.