II.8Инженерия данных и аналитика

YamshadowInex12_T3qm7xPercival_01 — объединённая модель Mistral для генерации текста и диалогов. Она создана слиянием automerger/YamshadowInex12-7B и automerger/T3qm7xPercival_01-7B и содержит 7,1 млрд параметров. Модель принимает текст и выдаёт текст; её контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель опубликована по лицензии Apache 2.0.

airoboros-3_1-yi-34b-200k — языковая модель с открытыми весами, созданная автором репозитория на основе 01-ai/Yi-34B-200k. Модель дообучена методом QLoRA ранга 64 на наборе инструкций jondurbin/airoboros-3.1, а затем объединена с базовыми весами. Использует архитектуру LlamaForCausalLM и формат safetensors; содержит 33,9 млрд параметров и поддерживает контекст до 200 000 токенов. Модель предназначена для генерации текста и выполнения инструкций в формате чата Llama 2. Её можно применять для ответов на вопросы, диалогов, следования текстовым инструкциям и создания текстов. Автор сообщает, что проверял модель ограниченно; во время обучения промпты обрезались до 4096 токенов, поэтому качество работы с длинным контекстом отдельно не подтверждено. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты; перед использованием следует проверить лицензию базовой модели и карточку репозитория.

andreasmartin выпустил конверсию текстовой модели Apertus 1.5 8B в формате MLX с точностью FP16. Модель основана на andreasmartin/apertus-v1.5-8b-text и предназначена для генерации текста и диалогового взаимодействия; карточка базовой модели также указывает сценарии RAG, рассуждений и вызова инструментов. Архитектура — плотная причинная языковая модель ApertusForCausalLM с 10,3 млрд параметров и контекстом до 262 144 токенов. Модель рассчитана на многоязычное текстовое взаимодействие. Репозиторий распространяется по лицензии Apache-2.0. В README описана конверсия в MLX с помощью mlx-lm 0.31.2; метаданные указывают формат safetensors.

QuantFactory/ArliAI-Llama-3-8B-Dolfin-v0.5-GGUF — это квантизированная в формате GGUF версия модели ArliAI-Llama-3-8B-Dolfin-v0.5, созданная с использованием llama.cpp. Исходная модель разработана на основе Meta-Llama-3-8B-Instruct и дообучена OwenArli на улучшенных наборах данных Dolphin и WizardLM. Квантизация выполнена QuantFactory. Модель предназначена для генерации текста, диалоговых приложений и выполнения инструкций. Дообучение ориентировано на более точное следование инструкциям и менее частые отказы от ответов. Модель использует архитектуру семейства Llama 3 и содержит около 8 миллиардов параметров. Поддерживается текстовая модальность; конкретные языки в README не указаны. Заявлена работа с контекстом до 8192 токенов, хотя обучение проводилось с длиной последовательности 2048 токенов. Модель обучалась с использованием QLoRA: 4-битной загрузки, rank 64 и alpha 128; обучаемыми были примерно 2% весов. Квантизированный формат рассчитан на запуск через llama.cpp и может быть удобен для локального инференса с ограниченными аппаратными ресурсами. Ограничения включают отсутствие подробных результатов OpenLLM Benchmark в представленном README и отсутствие точной информации о поддерживаемых языках, фактическом качестве на разных задачах и требованиях к аппаратному обеспечению. Модель распространяется по лицензии Meta Llama 3 License, унаследованной от базовой Meta-Llama-3-8B-Instruct. Условия этой лицензии необходимо учитывать при использовании и распространении модели.

Badger/δ Llama 3 Instruct 32k — чат-модель семейства Llama 3, созданная автором maldv путём рекурсивной интерполяции и объединения нескольких моделей. В репозитории указано, что для неё настроен масштаб RoPE 4; автор сообщает, что ответы сохраняют связность при контексте 16–32 тыс. токенов. Метаданные указывают 7,5 млрд параметров, архитектуру LlamaForCausalLM, формат safetensors и нативный контекст 8192 токена. Модель предназначена для диалоговой генерации текста и инструктивных запросов. В README приведены результаты оценки на Open LLM Leaderboard, включая средний балл 69,49, но этих результатов недостаточно, чтобы судить о качестве во всех задачах. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование; перед применением следует соблюдать её условия.

Bielik-Minitron-7B-v3.0-Instruct — генеративная языковая модель команды SpeakLeash и центра ACK Cyfronet AGH, созданная при участии NVIDIA. Это причинная декодерная модель с 7,35 млрд параметров для диалогов и выполнения инструкций; она использует шаблон чата ChatML и распространяется в формате Safetensors для Transformers. Модель получена сжатием и дообучением Bielik-11B-v3-Base-20250730: структурная обрезка и дистилляция знаний сократили число параметров на 33,4%, после чего модель прошла настройку инструкций и выравнивание предпочтений. Она предназначена для генерации ответов и решения языковых задач на европейских языках; особое внимание при обучении уделено польскому. Авторы сообщают о восстановлении примерно 90% производительности исходной модели и ускорении вывода до 50%. Лицензия Apache 2.0. Модель может ошибаться и выдавать предвзятый, оскорбительный или иной нежелательный текст; встроенных механизмов модерации нет. Ее ответы не следует считать проверенными фактами.

BreezePipe-7B-merge — объединённая языковая модель, собранная автором Heng666 из MediaTek-Research/Breeze-7B-Instruct-v0.1 и Azure99/blossom-v4-mistral-7b с помощью LazyMergekit. В конфигурации используется метод passthrough: слои 0–31 взяты из Breeze, а слои 24–31 — из blossom-v4-mistral-7b. Модель основана на архитектуре Mistral и содержит 8,9 млрд параметров. Она предназначена для генерации текста; контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Solshine/Brimful-12B-merged-replete — языковая модель для генерации текста, созданная с помощью mergekit на основе Replete-AI/Replete-LLM-V2.5-Qwen-7b. В README указан метод слияния passthrough; модель построена на архитектуре Qwen2 и содержит 11,7 млрд параметров. Она принимает текст и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Размер контекста составляет 32 768 токенов. Модель может использоваться для диалогов и генерации ответов, а также в сценариях, где приложению требуется передавать вызовы инструментов через соответствующий интерфейс. README предупреждает, что merge пока не тестировался, поэтому качество и надёжность результатов не подтверждены. Репозиторий содержит веса safetensors; сведения о лицензии в предоставленных данных отсутствуют.

Карточка модели roskosmos19/Dolphin-4B-Instruct-0409 на Hugging Face совпадает с карточкой roskosmos19/Orca-4B-Instruct, поэтому описание составлено по ней. Orca-4B-Instruct — компактная инструктивная языковая модель, опубликованная roskosmos19. По карточке она основана на архитектуре Qwen3 и предназначена для диалогов и выполнения текстовых инструкций. Модель содержит около 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM и принимает контекст до 16 384 токенов. Модель рассчитана на генерацию ответов, следование инструкциям и разговорные сценарии; в метаданных также заявлен интерфейс вызова инструментов. Карточка описывает оптимизацию для экономичного запуска: сокращённый контекст и удалённые мультимодальные специальные токены уменьшают требования к памяти, сохраняя фокус на текстовых ответах. Доступны веса в формате safetensors. Модель подходит для локальных чат-ботов, помощников и других приложений, где важны умеренный размер и стоимость инференса. Ограничение контекста до 16 384 токенов исключает обработку очень длинных запросов; сведения о поддерживаемых естественных языках в карточке не приведены. Лицензия — Apache-2.0.

Eclipse-13B-dpo — языковая модель Xenon1, созданная дообучением Mistral-7B-v0.1 на датасете UltraFeedback с применением методов из статьи Self-Rewarding Language Models. Она предназначена для генерации текста и выполнения инструкций в диалоговом формате; для запросов используется шаблон с токенами [INST] и [/INST], также доступный через apply_chat_template(). В основе указана архитектура Mistral с Grouped-Query Attention, Sliding-Window Attention и токенизатором Byte-fallback BPE; метаданные классифицируют веса как MixtralForCausalLM с архитектурой MoE и указывают 7,1 млрд параметров. Контекст составляет 32 768 токенов, формат весов — safetensors, основной язык карточки — английский. Модель распространяется по лицензии Apache-2.0.

Experiment28M7_Experiment26Alloyingotneoy — объединённая модель семейства Mistral, созданная из automerger/Experiment28M7-7B и automerger/Experiment26Alloyingotneoy-7B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужна языковая модель общего назначения. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0.

EpistemeAI2/Firebal-Llama-3.1-8B-R1 — текстовая диалоговая модель семейства Llama 3.1, дообученная на базе unsloth/meta-llama-3.1-8b-instruct-bnb-4bit. Она предназначена для общения в формате ассистента и генерации текста; в метаданных также отмечен интерфейс для вызова инструментов. Архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель принимает текст и генерирует текст. В карточке описана поддержка английского, французского, немецкого, хинди, итальянского, португальского, испанского и тайского языков; метаданные для этой модели указывают английский. Карточка рекомендует шаблон Alpaca для рассуждений. Лицензия — Apache 2.0 по метаданным модели; README содержит общие сведения о Llama 3.1 и её Community License, поэтому условия следует сверять с лицензией именно этого репозитория. Качество и дополнительные возможности дообучения Firebal отдельно в предоставленной карточке не описаны.

unsloth/gemma-3-1b-pt-unsloth-bnb-4bit — 4-битная квантованная версия предобученной модели google/gemma-3-1b-pt, подготовленная Unsloth. Базовая модель разработана Google DeepMind в рамках семейства Gemma, созданного на основе технологий Gemini. Это модель с открытыми весами, предназначенная для локального и ресурсосберегающего развертывания. Модель ориентирована на генерацию текста, ответы на вопросы, суммаризацию, рассуждения и понимание изображений. Она принимает текстовые и графические входные данные и генерирует текст. Для версии 1B заявлено контекстное окно до 32K токенов, максимальный объём вывода — 8192 токена. Семейство Gemma 3 поддерживает более 140 языков; в карточке этой версии явно указан английский язык. Изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов каждое. Ключевое преимущество версии — сниженные требования к памяти благодаря 4-битной квантизации, что упрощает запуск на ноутбуках, настольных компьютерах и другой ограниченной по ресурсам инфраструктуре. При этом это именно предобученная, а не instruction-tuned модель, поэтому для диалоговых сценариев и выполнения команд может потребоваться дополнительное дообучение или специальное форматирование запросов. Квантизация также может немного снижать точность по сравнению с полноразмерной версией, однако README заявляет о применении селективной квантизации Unsloth Dynamic Quants для улучшения сохранения качества. Использование регулируется лицензией и условиями Gemma; перед применением необходимо ознакомиться с соответствующими Terms of Use.

pytorch/gemma-3-27b-it-FP8 — модель, разработанная PyTorch и полученная квантованием google/gemma-3-27b-it. Это instruction-tuned модель для генерации текста в формате диалога, ответов на вопросы и общего языкового взаимодействия. README также указывает возможность мультимодальной оценки на задаче ChartQA, однако подробные сведения о поддерживаемых типах входных данных не приведены. Модель использует квантование FP8 с динамическими активациями и весами FP8; размер базовой модели составляет 27B параметров. Указан английский язык. Доступны режимы с рассуждением и без него, а для запуска предусмотрена интеграция с vLLM и Transformers. В приведённых проверках версия FP8 показала близкие к исходной модели результаты: 76,20 против 76,48 на MMLU и 51,32 против 51,80 на мультимодальном ChartQA. Для работы требуются актуальные версии vLLM, torchao или Transformers, а также GPU-окружение; README отмечает необходимость отключения compile cache в vLLM из-за проблем совместимости. Модель распространяется по лицензии Apache-2.0.

Hunyuan-1.8B-Pretrain — базовая плотная языковая модель из открытой серии Hunyuan компании Tencent. Она содержит 1,8 млрд параметров, построена на архитектуре Hunyuan Dense V1 и предназначена для генерации текста и дальнейшей адаптации под диалоговые и прикладные сценарии. Модель поддерживает контекст до 262 144 токенов и реализована в формате safetensors для библиотеки Transformers. Модель подходит для продолжения текста, работы с длинными документами и построения приложений, где важны компактный размер и длительный контекст. В семействе заявлены режимы быстрого и пошагового рассуждения, а также возможности для агентных сценариев и интерфейсов вызова инструментов; конкретные качества этих возможностей зависят от настройки и используемой версии. Веса этой карточки — предобученный вариант, а не instruct-модель, поэтому для следования инструкциям и диалога может потребоваться дообучение или подходящая обвязка. Tencent описывает семейство как рассчитанное на разные вычислительные условия и упоминает поддержку квантизации при развертывании. В карточке указана лицензия Apache-2.0; она разрешает коммерческое использование при соблюдении её условий.

InternLM2-Chat-1.8B-SFT — диалоговая языковая модель команды InternLM, созданная контролируемой тонкой настройкой базовой InternLM2-1.8B. Она содержит около 1,7 млрд параметров, использует плотную архитектуру InternLM2 и рассчитана на генерацию текста в формате чата. Метаданные указывают контекст до 32 768 токенов; в README также заявлена поддержка длинных входов до 200 000 символов для семейства InternLM2. Модель подходит для диалоговых помощников, ответов на вопросы, следования инструкциям и генерации текста. Семейство также улучшено для рассуждений, математики и программирования, однако версия SFT уступает последующей версии InternLM2-Chat, дополнительно выровненной с помощью RLHF и рекомендованной авторами для прикладного использования. Модель можно загружать через Transformers; в README также описано развёртывание через vLLM и LMDeploy. Карточка предупреждает, что модель может выдавать предвзятые, дискриминационные или иным образом вредоносные ответы. Код распространяется по Apache-2.0; для весов заявлен свободный доступ для академических исследований и возможность запросить бесплатное коммерческое разрешение.

Keefe-Discere-v3.2 — дообученная языковая модель семейства Qwen2, опубликованная KeefeBuild. Это плотная авторегрессионная модель с 7,1 млрд параметров, предназначенная для генерации текста в диалоговом формате; метаданные также указывают интерфейс вызова инструментов. Модель обучалась с использованием Unsloth и библиотеки TRL от Hugging Face. Модель принимает текст и выдаёт текст. В метаданных указаны английский язык и контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. README указывает на дообучение от KeefeBuild/Keefe-Discere-v3.2, то есть от модели с тем же идентификатором, поэтому исходная базовая модель отдельно не подтверждена.

Keye-VL-2.0-30B-A3B-GGUF — мультимодальная модель семейства Keye, разработанная командой Kwai Keye. Она предназначена для обработки изображений, видео и текста, прежде всего для понимания длинных видеозаписей, временной локализации событий, OCR, анализа диаграмм и таблиц, визуального вопросно-ответного взаимодействия и мультимодального рассуждения. Модель также ориентирована на агентские сценарии: работу с кодом, инструментами, поиском, репозиториями и визуальной самопроверкой. Модель относится к 30B-классу и распространяется в формате GGUF с вариантами квантования BF16, F16, Q8_0 и Q4_K_M. В архитектуре используются разреженное внимание DSA (DeepSeek Sparse Attention), целевая агрегация признаков, параллелизм ViT-LM и оптимизированные вычислительные ядра, что предназначено для эффективной работы с длинными последовательностями. Заявлена поддержка контекста до 256K токенов и анализа видео продолжительностью до часа. В README явно указан английский язык; сведения о полноценной поддержке других языков отсутствуют. Сильными сторонами являются длинноконтекстное понимание видео, точная временная локализация, мультимодальное рассуждение и встроенные возможности для агентских задач. Ограничениями выступают высокие требования к ресурсам: размер файлов варьируется от 29 ГБ для Q8_0 до 58 ГБ для F16, а для работы с длинными видео и контекстом потребуется значительный объём памяти. Условия использования определяются лицензией Apache-2.0.

Lamarck-14B-v0.3 — языковая модель на архитектуре Qwen2, созданная sometimesanotion как многоэтапное слияние нескольких моделей через model_stock, DELLA, SLERP и TIES. При слиянии авторы сочетали модели, ориентированные на рассуждения и качество прозы, с акцентом на Virtuoso-Small в начальных и финальных слоях; также использованы модели Qwen2.5-14B-Wernicke и SeQwence-14B-EvolMerge. Модель предназначена для диалогов, следования инструкциям, генерации связного текста и задач, требующих рассуждений; в метаданных также заявлен интерфейс вызова инструментов. Размер модели — 14 млрд параметров, контекст — до 131 072 токенов. Карточка приводит результаты Open LLM Leaderboard, включая IFEval и BBH. Поддерживается английский язык. Лицензия — Apache-2.0.

unsloth/LFM2.5-1.2B-Instruct — версия инструкционной модели Liquid AI, опубликованная Unsloth с исправлениями шаблона чата. Это компактная плотная языковая модель семейства LFM2: в README указано 1,17 млрд параметров и гибридная архитектура из 10 блоков LIV с двойной маршрутизацией и 6 блоков GQA. Модель принимает и генерирует текст; она рассчитана на локальный запуск на устройствах и поддерживает контекст до 32 768 токенов по README, тогда как метаданные указывают 128 000 токенов. Модель предназначена для диалогов общего назначения, агентных сценариев с вызовом инструментов, извлечения данных и ответов с опорой на документы в RAG. В карточке перечислены английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. README не рекомендует использовать её для задач, требующих обширных знаний, и программирования. Репозиторий содержит веса в формате safetensors и использует лицензию, обозначенную в метаданных как other; конкретные условия лицензии следует сверить с карточкой модели.

Llama-3.1-8B-Instruct-EI1-2ep-sft — дообученная методом supervised fine-tuning (SFT) модель на архитектуре Llama, созданная на основе meta-llama/Llama-3.1-8B-Instruct. В репозитории указано значение loss 0,3970 на наборе оценки, но сведения о датасете и подробные результаты отсутствуют. Модель предназначена для генерации текста и диалогов. Она содержит 7,5 млрд параметров, поддерживает контекст до 131 072 токенов и распространяется в формате safetensors. Метаданные также указывают интерфейс вызова инструментов; языки и специальные области применения для этой версии не описаны. Лицензия — Llama 3.1 Community License (идентификатор llama3.1); использование регулируется её условиями.

Magpie-Align/Llama-3.1-8B-Magpie-Align-v0.1 — англоязычная диалоговая модель семейства Llama 3.1, разработанная командой Magpie-Align. Это плотная авторегрессионная модель с 7,5 млрд параметров и контекстом до 131 072 токенов; она принимает текст и генерирует текст, используя официальный шаблон чата Llama 3.1. Модель сначала дообучили методом SFT на наборах Magpie-Pro-MT-300K-v0.1 и Magpie-Reasoning-150K, затем применили DPO на датасете UltraFeedback ARMOR. Модель предназначена для диалогов, выполнения инструкций и рассуждений на английском языке. В карточке авторы приводят результаты на MT-Bench, Alpaca Eval 2 и Arena Hard, однако эти оценки не гарантируют качества в конкретном сценарии. Для использования весов заявлена лицензия Llama 3.1 Community License; также авторы указывают необходимость соблюдать лицензию Meta Llama 3 Community License для данных.

Snowflake AI Research разработала Snowflake/Llama-3.1-SwiftKV-8B-Instruct — инструкционную языковую модель на архитектуре Llama-3.1 с преобразованием SwiftKV для ускорения вывода. Метод оптимизирует обработку входного промпта: перенастраивает модель и применяет дистилляцию с сохранением знаний, чтобы часть токенов при обработке промпта могла пропускать до половины слоёв. Репозиторий содержит веса в формате safetensors; число параметров — 7,5 млрд, контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалоговых сценариев, где важны скорость обработки промптов и эффективность обслуживания запросов. В README заявлены улучшения пропускной способности, задержки и стоимости до 2 раз при небольшой потере точности; для версии 8B приведены результаты бенчмарков, где среднее значение снизилось с 73,71 до 72,70 относительно базовой модели. Поддерживается лицензия Llama 3.1; применяются её условия использования.

QuantFactory/Llama-3.1-Tulu-3-8B-SFT-GGUF — квантизированная версия модели Llama-3.1-Tulu-3-8B-SFT, созданная QuantFactory с использованием llama.cpp. Исходную модель разработал Allen Institute for AI (AI2) на базе meta-llama/Llama-3.1-8B и дообучил на смеси общедоступных, синтетических и созданных людьми наборов данных, включая allenai/tulu-3-sft-mixture. Модель предназначена прежде всего для следования инструкциям, диалоговых сценариев и генерации текста на английском языке. Она ориентирована на широкий круг задач, включая общение, MATH, GSM8K и IFEval. Это текстовая авторегрессионная модель; заявленная конфигурация содержит 8 миллиардов параметров. Для запуска предусмотрен формат GGUF, подходящий для экосистемы llama.cpp и совместимых средств инференса. В README рекомендуется ограничивать максимальную длину контекста до 8192 токенов при использовании vLLM, однако точное значение контекстного окна для этой карточки не указано. К сильным сторонам относятся улучшенное instruction following и возможность локального запуска благодаря квантизации и формату GGUF. Ограничения включают преимущественную ориентацию на английский язык, отсутствие мультимодальных возможностей в описании и ограниченную безопасность: модель может генерировать проблемные ответы, поскольку не оснащена полноценной фильтрацией ответов в процессе использования. Модель распространяется по Llama 3.1 Community License Agreement; условия исходной лицензии необходимо учитывать при применении квантизированной версии.

Это преобразованная в формат MLX версия языковой модели Llama 3 8B Instruct с контекстом до 262 144 токенов. Репозиторий подготовлен сообществом mlx-community на основе gradientai/Llama-3-8B-Instruct-262k с помощью mlx-lm 0.12.0; модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Она предназначена для диалоговой генерации текста и работы с длинными текстовыми контекстами. Метаданные указывают английский язык и поддержку чата. Репозиторий содержит веса safetensors в формате MLX; лицензия в доступных данных не приведена.

ccdv/lsg-bart-base-16384 — модель на базе BART-base, адаптированная для задач encoder-decoder с длинными входными последовательностями. Она использует локальное, разреженное и глобальное внимание (LSG) и содержит 95,2 млн параметров. Заявленная длина контекста — до 16 384 токенов; модель реализована на PyTorch и использует тот же токенизатор и число слоёв, что и BART-base. Модель предназначена для генерации текста по входной последовательности, включая суммаризацию, а также может применяться для классификации. В README приведены примеры суммаризации и классификации; метаданные также указывают fill-mask и question answering среди поддерживаемых задач. Для загрузки через Transformers требуется включить trust_remote_code=True, поскольку используется пользовательский код архитектуры. Входную длину рекомендуется обрезать токенизатором; при нехватке памяти можно уменьшить размеры блоков или увеличить разреженность внимания. Модель адаптирована от BART-base без дополнительного предварительного обучения. Лицензия в предоставленных данных не указана.

UCSC-VLAA/m1-7B-23K — языковая модель семейства Qwen2, опубликованная UCSC-VLAA. Она предназначена для диалогов и ответов на вопросы; каталог также относит её к генерации текста и отмечает интерфейс вызова инструментов. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и принимает контекст до 32 768 токенов. Модель работает с текстом и размещена в формате safetensors. Метаданные указывают лицензию MIT. README содержимого не предоставляет, поэтому сведения о специальной настройке, языковом охвате и фактической точности подтвердить нельзя.

MeliodasPercival_01_Experiment26Yamshadow — объединённая языковая модель, опубликованная MaziyarPanahi. Она предназначена для генерации текста и построена на архитектуре Mistral с 7,1 млрд параметров. Модель объединяет automerger/MeliodasPercival_01-7B и automerger/Experiment26Yamshadow-7B; доступна в формате safetensors и поддерживает контекст до 32 768 токенов. Лицензия — Apache-2.0.

Карточка модели SillyTilly/Meta-Llama-3.1-8B на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3.1-8B, поэтому описание составлено по ней. NousResearch/Meta-Llama-3.1-8B — текстовая авторегрессионная модель семейства Llama 3.1, разработанная Meta и опубликованная в репозитории NousResearch. Это плотный трансформер LlamaForCausalLM с 7,5 млрд параметров, механизмом Grouped-Query Attention и контекстом до 131 072 токенов; веса представлены в формате safetensors и предназначены для работы с Transformers. Модель генерирует текст по текстовому запросу. Она подходит для диалогового помощника на нескольких языках, ответов на вопросы, написания и преобразования текста, а также для адаптации к задачам генерации естественного языка. В карточке указаны английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Для семейства Llama 3.1 заявлены коммерческое и исследовательское применение; условия использования определяет лицензия Llama 3.1 Community License и связанная с ней политика допустимого использования. Это предобученная модель, а не версия, настроенная для следования инструкциям: указанное в README SFT и RLHF относится к instruction-tuned версиям семейства. Как и другие языковые модели, она может выдавать неточные или небезопасные ответы; для прикладного использования нужны проверка результатов и меры безопасности. Указания README ограничивают применение поддерживаемыми языками, если модель не дообучена для других языков.

Sowmen123 разработал эту плотную авторегрессионную модель семейства Llama, дообучив Meta-Llama-3.1-8B-Instruct на задачи следования инструкциям и диалогового общения. Репозиторий содержит веса PyTorch; модель насчитывает 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Для ускорения обучения использовались Unsloth и библиотека Hugging Face TRL. Модель предназначена для генерации текста: она подходит для диалогового ассистента, ответов на инструкции, создания текстов и суммаризации. В карточке заявлен английский язык; доступны чатовый интерфейс и интерфейс вызова инструментов. Модель распространяется по лицензии Apache-2.0.