I.5Создание и редактирование текста

unsloth/Llama-3.2-3B-Instruct-unsloth-bnb-4bit — 4-битная версия instruction-tuned языковой модели Llama 3.2 с 3 млрд параметров, подготовленная Unsloth на основе meta-llama/Llama-3.2-3B-Instruct. Разработчик базовой модели — Meta; Unsloth предоставляет оптимизированное квантованное представление для использования и дообучения с меньшими требованиями к памяти. Модель предназначена для текстовых диалогов, генерации и обработки текста, включая многоязычные сценарии, агентский поиск и суммаризацию. Это авторегрессионная модель на основе оптимизированной архитектуры Transformer, обученная с применением supervised fine-tuning и reinforcement learning from human feedback для повышения полезности и безопасности. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель принимает и генерирует только текст; размер контекста в карточке не указан. Ключевое преимущество версии — 4-битное квантование Unsloth, которое снижает требования к памяти и подходит для локального запуска и эффективного дообучения. Из-за квантования возможен компромисс между экономией ресурсов и точностью по сравнению с полноразмерной версией; конкретные показатели качества в карточке не приведены. Модель распространяется по лицензии Llama 3.2 Community License; её использование также должно соответствовать Acceptable Use Policy.

Meta Llama 3.3 70B Instruct — мультиязычная генеративная языковая модель Meta для диалогов и следования инструкциям. Это авторегрессионный трансформер на 70 млрд параметров, дообученный с помощью supervised fine-tuning и обучения с подкреплением на основе обратной связи от людей. Модель принимает и выдаёт текст, поддерживает контекст до 128 тысяч токенов и оптимизирована для диалоговых сценариев. Модель подходит для создания ассистентов, ответов на вопросы, написания и преобразования текстов, а также генерации синтетических данных. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков; русский среди них не указан. Для инференса описана библиотека Transformers, а контрольные точки можно использовать с 8- и 4-битной загрузкой через bitsandbytes для снижения требований к памяти. Модель статична и обучена на офлайн-данных с отсечкой знаний в декабре 2023 года. Она не принимает изображения, аудио или видео; качество и безопасность ответов требуют оценки и мер защиты в конкретном приложении. Использование регулируется пользовательским соглашением Llama 3.3 Community License, включая его ограничения и Acceptable Use Policy.

Llama-3.3-70B-Instruct-FP8-dynamic — это 70-миллиардная инструкционно дообученная языковая модель Meta на архитектуре Llama 3.3, опубликованная RedHatAI в динамически квантизованном варианте FP8 и адаптированная FuriosaAI для запуска на аппаратуре FuriosaAI RNGD с использованием Furiosa-LLM. Модель предназначена для автодополнения текста, многоязычного диалога, выполнения инструкций и вызова инструментов через функции. Модель работает с текстом на входе и выходе, поддерживает английский, французский, итальянский, португальский, хинди, испанский, тайский и немецкий языки. Это плотный autoregressive Transformer; веса линейных слоёв квантизованы в FP8, а активации квантизуются динамически для каждого токена во время инференса. Поддерживается tool calling через парсер llama3_json. Для запуска на RNGD используется tensor parallelism с 32 PE, что соответствует четырём картам RNGD. Сильные стороны модели — сочетание большого размера, инструкционного обучения, многоязычности, поддержки вызова инструментов и сниженных требований к вычислительным ресурсам благодаря FP8-квантизации. Ограничения включают необходимость совместимой инфраструктуры для запуска оптимизированной версии: Furiosa-LLM и аппаратуры FuriosaAI RNGD; в README не указаны размер контекстного окна, результаты бенчмарков и подробные ограничения безопасности. Модель распространяется по лицензии Llama 3.3 Community License.

Llama-3.3-70B-Instruct-GGUF — квантизированная версия инструкционно дообученной языковой модели Llama 3.3 70B, разработанной Meta и подготовленной в формате GGUF сообществом lmstudio-community; в метаданных также указан quantized_by: bartowski. Модель предназначена для генерации текста и выполнения инструкций, включая диалоговые и другие задачи обработки естественного языка. Она относится к семейству текстовых моделей и содержит около 70 миллиардов параметров. Сведения о конкретном варианте квантизации, размере контекста, поддерживаемых языках, точных модальностях и требованиях к аппаратному обеспечению в представленном README отсутствуют. Крупный размер модели потенциально обеспечивает высокое качество рассуждений и генерации, однако обычно требует значительных вычислительных ресурсов; влияние выбранной квантизации на качество и производительность здесь не уточняется. Модель распространяется по Llama 3.3 Community License от Meta. При распространении материалов или производных продуктов необходимо предоставлять текст лицензии, указывать «Built with Llama» и соблюдать применимую политику допустимого использования; для некоторых очень крупных коммерческих сервисов предусмотрены дополнительные лицензионные условия.

NVIDIA Llama 3.3 70B Instruct NVFP4 — FP4-квантизованная версия инструктивной языковой модели Meta Llama 3.3 70B Instruct. Это авторегрессионная плотная модель на архитектуре Transformer/Llama 3.3 с 69,5 млрд параметров, принимающая текст и генерирующая текст. Контекст — до 128 тысяч токенов; модель поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для диалоговых ассистентов и генерации текста. Квантизация весов и активаций линейных операторов в блоках Transformer выполнена с помощью NVIDIA TensorRT Model Optimizer; по данным карточки, она уменьшает требования к дисковому пространству и памяти GPU примерно в 3,3 раза. Для инференса указан TensorRT-LLM, аппаратная совместимость — NVIDIA Blackwell. Модель основана на Meta Llama 3.3 70B Instruct и подходит для коммерческого и некоммерческого использования в соответствии с условиями лицензии Llama 3.3. В README не приведены конкретные языки и результаты бенчмарков, поэтому языковой охват и сохранение качества после квантизации по этим данным оценить нельзя.

Llama-3_3-Nemotron-Super-49B-v1_5-GGUF — это GGUF-версия большой языковой модели Llama-3.3-Nemotron-Super-49B-v1.5, разработанной NVIDIA на основе Meta Llama-3.3-70B-Instruct и оптимизированной с применением Neural Architecture Search. Модель предназначена для генерации текста, рассуждений, диалогов, выполнения инструкций и агентских сценариев, включая RAG и вызов инструментов. В репозитории представлены файлы в формате GGUF, созданные с использованием llama.cpp; применён подход с повышением точности отдельных важных слоёв при квантовании, что должно улучшать точность на заданном уровне квантования за счёт увеличения размера файлов. Модель имеет архитектуру плотного decoder-only Transformer, относится к классу примерно 49B параметров и поддерживает контекст до 128K токенов. Она дообучалась для задач математики, программирования, науки, общения, рассуждений и tool calling. В карточке явно указан английский язык. Сильными сторонами заявлены баланс точности и эффективности, уменьшенный объём памяти и пригодность для развёртывания на одной GPU H200 при высоких нагрузках. Ограничения включают зависимость характеристик от выбранного уровня квантования и отсутствие в предоставленных данных подробных результатов тестирования конкретных GGUF-файлов. Использование регулируется NVIDIA Open Model License и дополнительными условиями Llama 3.3 Community License; модель заявлена как доступная для коммерческого использования.

winglian опубликовал текстовую генеративную модель на архитектуре Meta Llama 3 с 7,5 млрд параметров. Модель использует плотный авторегрессионный Transformer с Grouped-Query Attention и распространяется в формате safetensors. Метаданные указывают на контекст до 131 072 токенов; название репозитория также содержит «64k» и «PoSE».

Это 8-битная конверсия модели Llama 3 8B Instruct, выполненная сообществом mlx-community для запуска в формате MLX. Веса получены из gradientai/Llama-3-8B-Instruct-1048k с помощью mlx-lm версии 0.10.0. Модель предназначена для диалоговой генерации текста и поддерживает контекст до 1 048 576 токенов. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. В метаданных указан английский язык; заявленная лицензия — llama3. Для использования в MLX в README приведена установка mlx-lm.

QuantFactory/Llama-3-8B-Instruct-262k-GGUF — это квантизированная версия GradientAI модели Llama-3-8B-Instruct-262k в формате GGUF, созданная с использованием llama.cpp. Модель разработана Gradient на основе Meta-Llama-3-8B-Instruct при спонсорской поддержке вычислительных ресурсов Crusoe Energy. Модель предназначена для диалоговых ассистентов, генерации текста и кода, а также работы с большими текстовыми документами и контекстами. Она использует авторегрессионную архитектуру Transformer с Grouped-Query Attention, содержит около 8 миллиардов параметров и работает только с текстом на входе и выходе. Контекстное окно расширено с исходных 8K до более чем 160K токенов; обучение проводилось с последовательностями до 262144 токенов. Для расширения контекста применялись NTK-aware interpolation, оптимизация параметра RoPE theta и прогрессивное обучение. Сильной стороной модели является поддержка очень длинного контекста при относительно небольшом размере, что подходит для анализа крупных документов и продолжительных диалогов. Ограничения включают ориентацию преимущественно на английский язык, текстовую модальность и возможные потери качества, связанные с квантизацией. Модель основана на Llama 3, предназначенной для коммерческого и исследовательского использования, и распространяется по пользовательской коммерческой лицензии Llama 3.

unsloth/llama-3-8b-Instruct-bnb-4bit — 4-битно квантованная версия инструкционно дообученной языковой модели Llama 3 8B, разработанной Meta и опубликованной в формате, подготовленном Unsloth. Модель предназначена для диалоговых сценариев, генерации и обработки текста, а также генерации кода; поддерживает только текстовые входы и выдаёт текст или код. Архитектура модели — авторегрессионный оптимизированный Transformer с Grouped-Query Attention (GQA), объёмом около 8 млрд параметров и контекстом до 8 тысяч токенов. Указанный язык — английский. Инструкционная версия обучалась с применением supervised fine-tuning (SFT) и reinforcement learning from human feedback (RLHF) для повышения полезности и безопасности. Квантование в формате bnb 4bit снижает требования к памяти и делает модель более подходящей для локального запуска и дообучения, однако README не содержит точных показателей качества именно этой квантованной версии. Модель ориентирована на ресурсоограниченное развёртывание, чат-ботов, ассистентов, генерацию текста и кода, а также эксперименты и дообучение. Ограничения включают текстовую модальность, контекст до 8 тысяч токенов, статичный характер обучения на офлайн-данных и дату отсечения знаний — март 2023 года. Используется собственная коммерческая лицензия Meta Llama 3; её условия необходимо проверить в официальном тексте лицензии.

Это диалоговая языковая модель с архитектурой Llama 3, дообученная автором yaystevek на наборе OpenHermes 2.5. В основе лежит 4-битная instruct-версия Llama 3 8B от Unsloth; модель содержит около 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. В карточке также упомянуты варианты GGUF в форматах F16 и Q4_K_M. Модель предназначена для генерации текста в диалогах и ответов на запросы пользователя. Автор отмечает, что при дообучении уделил внимание сохранению и усилению корректной структуры токенов конца последовательности. В метаданных указан английский язык. Лицензия обозначена как other, а README указывает на условия Meta Llama 3 Community License Agreement; перед применением следует ознакомиться с её условиями.

Fischerboot/llama3-carlodda-v1 — объединённая автором модель на основе языковых моделей Essacheez/LLAMA3-8b-LIMA-Alpaca-style и Fischerboot/llama3-c1-full. Она использует плотную архитектуру Llama с причинно-языковой моделью LlamaForCausalLM и предназначена для генерации текста. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. Объединение выполнено методом passthrough с помощью mergekit. Модель доступна в формате safetensors для библиотеки Transformers. Карточка не описывает специализированные области применения, языки или отдельные возможности, поэтому её можно характеризовать как модель общего назначения для генерации текста. Условия лицензии в предоставленных данных не указаны.

Llama-3-Intermix — разговорная модель генерации текста, созданная bunnycore путём слияния моделей семейства Llama 3 с помощью mergekit и метода model_stock. В состав слияния вошли PJMixers/LLaMa-3-CursedStock-v2.0-8B, Nitral-AI/Hathor_Stable-v0.2-L3-8B и WhiteRabbitNeo/Llama-3-WhiteRabbitNeo-8B-v2.0. Модель на архитектуре LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и генерирует текст; контекст — до 8192 токенов. Карточка указывает формат safetensors и лицензию Apache-2.0. Модель предназначена для диалогов и других задач генерации текста; сведений о специальных доменах или отдельных языках в карточке нет.

Llama-3-Mistral-v0.2-Instruct-slerp — диалоговая языковая модель, созданная объединением моделей Meta Llama 3 8B Instruct и Mistral 7B Instruct v0.2 методом SLERP с помощью LazyMergekit. Это плотная авт autoreгрессионная архитектура семейства Llama для генерации текста и ответов на инструкции; в репозитории указано 7,5 млрд параметров. Модель рассчитана на диалоговое использование и выполнение запросов на естественном языке. Она принимает текст и генерирует текст. Длина контекста составляет 8192 токена. Данные о целевых языках в карточке не приведены. Модель распространяется под лицензией MIT. Карточка не сообщает о специальных ограничениях качества или безопасности.

Llama-3-NeuralPaca-8b — плотная авторегрессионная языковая модель семейства Llama 3, разработанная NeuralNovel и дообученная на базе unsloth/llama-3-8b-bnb-4bit. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. В карточке указан датасет tatsu-lab/alpaca; обучение выполнено с использованием Unsloth и TRL. В метаданных указан английский язык. Модель распространяется по лицензии Llama-3.

QuantFactory/Llama3-TAIDE-LX-8B-Chat-Alpha1-GGUF — квантованная версия модели taide/Llama3-TAIDE-LX-8B-Chat-Alpha1, созданная с использованием llama.cpp. Модель относится к семейству Llama3-TAIDE, основанному на Meta LLaMA3-8B и адаптированному проектом TAIDE к языковым и культурным особенностям Тайваня. Она предназначена для генерации текста, многоходового диалога и офисных задач: суммирования, написания статей и писем, а также перевода между китайским и английским языками. Основной акцент сделан на традиционном китайском, тайваньской терминологии и контексте. Модель содержит около 8 миллиардов параметров, поддерживает контекст длиной до 8K токенов и обучалась на 43B токенов традиционного китайского языка. Среди её сильных сторон — ориентация на традиционный китайский, улучшенная работа с тайваньской культурой и терминологией, многоходовые диалоги и прикладные сценарии. Квантование упрощает использование модели, однако может снизить производительность и привести к непредусмотренным проблемам. Лицензия указана как llama3-taide-models-community-license-agreement; применяются условия, опубликованные по ссылке в карточке модели.

Карточка модели DavidLanz/Llama3-tw-8B-Instruct на Hugging Face совпадает с карточкой kuotient/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. kuotient/Meta-Llama-3-8B-Instruct — чат-модель, разработанная Meta на основе семейства Llama 3. Это авторегрессионная плотная трансформерная модель класса LlamaForCausalLM с примерно 7,5 млрд параметров и механизмом Grouped-Query Attention. Она принимает текст и генерирует текст или код; версия с инструкционной настройкой предназначена для диалогов и работы в роли помощника. Модель рассчитана прежде всего на английский язык, а её контекстное окно составляет 8192 токена. Модель подходит для диалоговых помощников, ответов на вопросы, генерации и редактирования текста и кода. Инструкционные варианты Llama 3 настроены с помощью supervised fine-tuning и обучения с обратной связью от людей для повышения полезности и безопасности. Модель статична и обучена на офлайн-данных. Для использования действует специальная коммерческая лицензия Meta Llama 3; необходимо соблюдать её условия и политику допустимого использования.

llama-3-wissenschaft-8B — плотная языковая модель семейства Llama 3, созданная nbeerbower с помощью слияния предобученных моделей через mergekit и метод Model Stock. В слиянии использованы nbeerbower/llama-3-slerp-kraut-dragon-8B, VAGOsolutions/Llama-3-SauerkrautLM-8b-Instruct, DeepMount00/Llama-3-8b-Ita и mlabonne/ChimeraLlama-3-8B-v3. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации продолжений и диалоговых ответов. Контекст составляет 8192 токена. Карточка указывает лицензию Meta Llama 3 Community License Agreement; перед использованием следует соблюдать её условия.

Llama_3.x_70b_Smarteaz_V1 — плотная авторегрессионная языковая модель семейства Llama с 69,5 млрд параметров, созданная Nexesenex с помощью слияния моделей MergeKit и метода Model Stock. В качестве основы использованы Smarteaz 0.1, Smarteaz 0.2 R1 и Smarteaz 0.2 NMT; в README также описаны модели, послужившие компонентами этих слияний, включая Llama 3.3 70B, Nemotron 3.1 70B, DeepSeek R1 Distill 70B и Tulu 3 70B. Модель предназначена для генерации текста и диалогового взаимодействия. Автор стремился получить сильные рассуждения и низкую perplexity, сохранив связность на длинном контексте; заявлены результаты 3,45 perplexity на WikiText English при контексте 512, более 62% на ARC-Challenge и более 82% на ARC-Easy. Метаданные указывают контекст до 131 072 токенов и интерфейс вызова инструментов. Модель рассчитана на общие текстовые сценарии; README упоминает снижение выраженности исходных инструкций, стиля и «личности» при слиянии, а также намерение сохранить минимум цензуры. Модель распространяется в формате safetensors через Transformers под лицензией Llama 3.3. Использование должно соответствовать условиям этой лицензии.

Locutusque/Llama-3-Yggdrasil-8B — объединённая языковая модель на архитектуре Llama 3, созданная Locutusque с помощью mergekit и метода DARE TIES. В качестве базовой модели использована NousResearch/Meta-Llama-3-8B; в объединение также вошли инструктивная версия Meta-Llama-3-8B и две модели Locutusque — Llama-3-Hercules-5.0-8B и llama-3-neural-chat-v2.2-8b. Модель содержит 7,5 млрд параметров, принимает текст и предназначена для генерации текста, включая диалоговые ответы и ответы на вопросы. Контекст составляет 8192 токена. Веса доступны в формате safetensors для библиотеки Transformers. Лицензия — llama3.

unsloth/Llama-4-Scout-17B-16E-Instruct-unsloth-bnb-4bit — это 4-битно-квантизированная версия инструкционной модели Llama 4 Scout 17B-16E-Instruct, разработанной Meta. Модель предназначена для выполнения текстовых инструкций и решения широкого круга задач генерации и обработки текста, включая диалоговые сценарии, ответы на вопросы, суммирование и подготовку контента. В карточке указана поддержка арабского, немецкого, английского, испанского, французского, хинди, индонезийского, итальянского, португальского, тайского, тагальского и вьетнамского языков. Суффикс bnb-4bit указывает на 4-битное представление весов, которое обычно снижает требования к памяти и может упростить локальный запуск по сравнению с полноразмерной версией, однако точные требования к оборудованию, контекстное окно, сведения о мультимодальности и результаты тестирования в README не приведены. Модель удобна для инференса в условиях ограниченных вычислительных ресурсов, но квантизация может повлиять на точность и качество ответов относительно исходной версии. Модель распространяется по Llama 4 Community License от Meta. При распространении материалов или производных продуктов необходимо соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Llama» и другие требования Meta; для организаций с более чем 700 миллионами ежемесячно активных пользователей предусмотрено получение отдельной лицензии.

Llama-TI-8B — текстовая авторегрессионная модель семейства Llama, разработанная и загруженная ehristoforu на основе Meta Llama 3.1 8B. В модели сохранена архитектура LlamaForCausalLM; README указывает на дополнительное обучение и слияние моделей. Число параметров — 7,5 млрд по метаданным, контекст — до 131 072 токенов. Распространяется в формате safetensors по лицензии Apache-2.0. Модель предназначена для генерации текста, рассуждений, решения математических и физических задач, творческого письма, программирования и анализа длинных текстов. README заявляет об улучшениях в математике, биологии, рассуждениях и письме; модель ориентирована на многоязычную генерацию, однако конкретные поддерживаемые естественные языки не перечислены. Доступна базовая версия, а чат-версия вынесена в отдельный репозиторий.

Kaoeiri/Llam-Romania-3.1d-8B-V1.11 — языковая модель семейства Llama, разработанная Kaoeiri как дообученная версия unsloth/Meta-Llama-3.1-8B-bnb-4bit. Это плотная авторегрессионная модель для генерации текста и диалогового общения. В репозитории указано 7,5 млрд параметров, контекстное окно — до 131 072 токенов; модель построена на PyTorch и обучалась с использованием Unsloth и библиотеки TRL.

LLM-jp-4-33b-thinking — плотная трансформерная языковая модель семейства Llama, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Она предназначена для диалогов, генерации ответов и решения задач с рассуждением на японском и английском языках; поддерживает интерфейс вызова инструментов. Модель содержит 32,2 млрд параметров, имеет 64 слоя и контекст до 65 536 токенов. Она обучалась на этапах предварительного и промежуточного обучения на 11,7 трлн токенов, затем прошла SFT и выравнивание DPO без обучения с подкреплением. Доступна в формате Safetensors для Transformers, лицензия — Apache-2.0. Разработчики отмечают, что модель находится на раннем этапе исследований и разработок и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Для корректной работы следует использовать приложенный токенизатор: он отличается от предположений библиотеки openai-harmony, несмотря на совместимость шаблона диалога с Harmony.

Карточка модели WariHima/llm-jp-4-33b-thinking на Hugging Face совпадает с карточкой llm-jp/llm-jp-4-33b-thinking, поэтому описание составлено по ней. LLM-jp-4-33b-thinking — плотная трансформерная языковая модель семейства Llama, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Она предназначена для диалогов, генерации ответов и решения задач с рассуждением на японском и английском языках; поддерживает интерфейс вызова инструментов. Модель содержит 32,2 млрд параметров, имеет 64 слоя и контекст до 65 536 токенов. Она обучалась на этапах предварительного и промежуточного обучения на 11,7 трлн токенов, затем прошла SFT и выравнивание DPO без обучения с подкреплением. Доступна в формате Safetensors для Transformers, лицензия — Apache-2.0. Разработчики отмечают, что модель находится на раннем этапе исследований и разработок и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Для корректной работы следует использовать приложенный токенизатор: он отличается от предположений библиотеки openai-harmony, несмотря на совместимость шаблона диалога с Harmony.

LLMWriter-8B — дообученная Aldenir Flauzino модель семейства Llama 3.1, предназначенная для помощи в письме и генерации текстов. Она создана на базе unsloth/Llama-3.1-8B методом LoRA с использованием Unsloth и Hugging Face TRL и содержит около 7,5 млрд параметров. Модель принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. В карточке указаны английский язык и лицензия Apache 2.0. Модель ориентирована на создание статей и публикаций, подготовку технических текстов и документации, выполнение инструкций и формирование структурированных ответов. Дообучение проводилось на наборе из более чем 10 тысяч примеров инструкций. Автор сообщает о снижении функции потерь в ходе обучения, но не приводит оценок на стандартных бенчмарках. Модель может выдавать фактические ошибки, поэтому результаты следует проверять перед публикацией. Качество зависит от формулировки запроса и сложности задачи; модель не предназначена для юридических, медицинских или финансовых консультаций.

Карточка модели munachi02/LonAI_20250122 на Hugging Face совпадает с карточкой chain03/SRole_3181, поэтому описание составлено по ней. chain03/SRole_3181 — объединённая модель для генерации текста и диалогового общения. Она создана методом линейного слияния mergekit из двух предварительно обученных языковых моделей: /root/top1 и /root/top2. Модель использует плотную архитектуру семейства Llama с классом LlamaForCausalLM и содержит 7,5 млрд параметров. Модель рассчитана на генерацию текста и ответы в формате чата. Заявленная длина контекста — 131 072 токена. Веса доступны в формате safetensors; в конфигурации слияния указан тип данных bfloat16. Лицензия в предоставленных сведениях не указана.

LongChat-7B-v1.5-32k — языковая модель Large Model Systems Organization (LMSYS) для генерации текста и диалогов, рассчитанная на работу с длинными контекстами. Она основана на архитектуре LLaMA с причинно-языковой моделью LlamaForCausalLM и содержит около 6,6 млрд параметров. Конфигурация репозитория задаёт максимальную длину последовательности 32 768 токенов и масштабирование RoPE для длинного контекста. Модель подходит для диалоговых ответов, генерации текста и обработки длинных документов в одном запросе. Доступна по лицензии Apache-2.0. Метаданные каталога указывают 4096 native context tokens, тогда как конфигурация и назначение репозитория указывают расширенную длину до 32 768 токенов; фактическое качество на длинном контексте может зависеть от сценария использования.

Carchofa/looped_llama_8b_128k — языковая модель для генерации текста, опубликованная на Hugging Face и предназначенная для запуска через библиотеку Transformers. Модель относится к семейству Llama и содержит около 7,5 млрд параметров. Модель может использоваться для продолжения текстов, подготовки черновиков, генерации ответов и других сценариев, основанных на text-generation. Её нативное контекстное окно составляет 131 072 токена, что позволяет обрабатывать длинные входные документы и диалоги. README не содержит сведений о разработчике, лицензии, языках обучения, данных, результатах оценки и специальных ограничениях, поэтому перед практическим применением требуется дополнительная проверка качества и условий использования.

Lorenzo-8B-Merge — генеративная языковая модель для продолжения и создания текста, опубликованная пользователем qingy2024 на Hugging Face. Модель предназначена для использования через библиотеку Transformers и относится к семейству Llama согласно метаданным. В карточке модели не приведены сведения о точной архитектуре слияния, исходных моделях, разработчиках, обучающих данных и методике обучения. Модель содержит около 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Она может применяться для генерации ответов, написания и продолжения текстов, диалоговых сценариев и построения приложений на базе больших языковых моделей. Лицензия, поддерживаемые естественные языки, результаты оценки, рекомендуемые параметры запуска и специализированные ограничения в карточке не указаны. Перед использованием в продуктивных системах следует самостоятельно проверить качество на целевых данных, устойчивость к ошибкам и условия распространения.