II.6Документация и сопровождение разработки

Kosmos-EVAA-PRP-v24-8B — текстовая языковая модель, созданная jaspionjader слиянием двух предварительно обученных моделей: jaspionjader/Kosmos-EVAA-TSN-v22-8B и jaspionjader/Kosmos-EVAA-PRP-v23-8B. Для слияния использован метод SLERP через mergekit. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и рассчитана на генерацию текста с контекстом до 8192 токенов. Весовые файлы представлены в формате safetensors; README указывает тип данных bfloat16. Она подходит для генерации продолжений текста и диалоговых ответов в приложениях на базе Transformers. Карточка не приводит сведения о целевых языках, специализированных областях или сравнительных результатах качества. Условия лицензирования в доступных данных не описаны.

L3.3-70B-Euryale-v2.3-GGUF — это квантизированная версия языковой модели L3.3-70B-Euryale-v2.3, разработанной Sao10K и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp или совместимые приложения, включая LM Studio. Доступно множество вариантов квантизации с разным балансом между качеством и размером — от Q8_0 размером около 75 ГБ до более компактных вариантов Q2 и IQ3. Модель относится к классу text-generation и содержит 70B параметров согласно идентификатору базовой модели. Квантизация выполнена с использованием imatrix и специального набора данных; для некоторых вариантов предусмотрена оптимизация под ARM, AVX или определённые аппаратные возможности. В README не указаны точная архитектура, максимальная длина контекста, поддерживаемые языки, мультимодальность и результаты бенчмарков. Сильной стороной модели является широкий выбор квантизаций: Q6_K и Q5 считаются высококачественными, а Q4-варианты предлагают более доступный размер для большинства сценариев локального запуска. Ограничениями являются значительные требования к памяти даже у компактных вариантов, а также возможное снижение качества при агрессивной квантизации. Для отдельных ARM-оптимизированных файлов требуются конкретные аппаратные инструкции; некоторые варианты не рекомендуется использовать на Mac. Указанная лицензия — Llama 3.

L3.3-Nevoria-R1-70b-GGUF — это GGUF-квантизированная версия текстовой генеративной модели L3.3-Nevoria-R1-70b, подготовленная bartowski на основе модели Steelskull/L3.3-Nevoria-R1-70b. Модель относится к объединённым моделям, созданным с использованием mergekit, и предназначена для генерации текста в локальных средах на базе llama.cpp, включая LM Studio. Модель рассчитана на диалоговые и общие задачи генерации текста. Доступны варианты квантизации от Q8_0 до Q2_K и IQ2_XXS, поэтому можно выбирать между качеством, размером файла и требованиями к оперативной памяти. Наиболее качественными и рекомендуемыми в README названы Q6_K, Q5_K_M, Q5_K_S и Q4_K_M; более компактные варианты экономят память, но могут заметно уступать по качеству. Известный размер исходной модели — 70 миллиардов параметров. Формат GGUF и квантизация с использованием imatrix ориентированы на локальный инференс, однако для запуска качественных вариантов требуется значительный объём памяти. README не указывает архитектуру, поддерживаемые языки, размер контекстного окна, мультимодальные возможности, результаты тестирования или лицензию, поэтому эти характеристики нельзя достоверно определить по имеющимся данным.

LeoLM/leo-hessianai-13b — языковая модель с открытыми весами, разработанная Björn Plüster и Christoph Schuhmann совместно с LAION и HessianAI. Это плотный авторегрессионный трансформер-декодер семейства Llama, полученный продолжением предобучения meta-llama/Llama-2-13b-hf на большом корпусе немецкоязычных, преимущественно локальных текстов. Модель содержит 12,9 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста на немецком и английском языках, а также для исследований и прикладных разработок с немецкоязычными LLM. Она доступна для использования через Transformers в формате PyTorch. Лицензия — Llama 2 Community License Agreement; перед использованием следует учитывать её условия, в том числе применимые ограничения на коммерческое использование.

LeTriomphant2.2_ECE_iLAB — объединённая командой студентов инженерной школы ECE при поддержке лаборатории iLab и TW3 Partners языковая модель для диалогов и генерации текста. Она создана с помощью mergekit на основе raphgg/test-2.5-72B и shuttleai/shuttle-3; в метаданных указаны архитектура Qwen2, 71,5 млрд параметров, контекст до 32 768 токенов и формат safetensors. Модель предназначена для генерации текста в чат-сценариях. Репозиторий распространяется по лицензии Apache-2.0. README не описывает обучение, оценку качества или специализированные прикладные области.

Это версия LFM2-1.2B от Liquid AI, подготовленная командой LM Studio в формате MLX с точностью bfloat16 для устройств Apple Silicon. В основе лежит плотная авторегрессионная языковая архитектура LFM2; модель содержит около 1,1 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие. Для неё заявлено контекстное окно до 128 000 токенов. Модель подходит для диалоговых приложений и генерации текста на поддерживаемых языках: английском, арабском, китайском, французском, немецком, японском, корейском и испанском. Формат MLX упрощает запуск на Apple Silicon; веса представлены в safetensors. Репозиторий указывает лицензию «other», поэтому условия использования следует сверить с лицензией базовой модели и файлами репозитория. Как и другие языковые модели, она может генерировать неточную или неподходящую информацию.

LFM2-24B-A2B-MLX-4bit — 4-битная квантованная версия модели LFM2-24B-A2B, разработанной LiquidAI. Квантование выполнено командой LM Studio с использованием mlx_lm, а модель оптимизирована для запуска на устройствах Apple Silicon. Она предназначена для генерации текста и локального использования в приложениях и инструментах, поддерживающих формат MLX. В карточке указано, что модель работает с английским, арабским, китайским, французским, немецким, японским, корейским, испанским и португальским языками. Размер исходной модели обозначен как 24B-A2B, однако подробности архитектуры, фактическое назначение компонентов A2B, максимальная длина контекста и список поддерживаемых модальностей не приведены. Ключевые преимущества — снижение требований к памяти благодаря 4-битной квантованию и оптимизация для экосистемы Apple Silicon. Ограничения включают зависимость от совместимого MLX-окружения и возможное снижение качества по сравнению с полной точностью; конкретные показатели качества в README отсутствуют. Модель распространяется по лицензии lfm1.0.

LiquidAI/LFM2.5-1.2B-Instruct-MLX-4bit — это 4-битная версия инструкционной языковой модели LFM2.5-1.2B-Instruct, экспортированная в формат MLX компанией Liquid AI для запуска на устройствах с Apple Silicon. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы пользователя и локальный инференс на совместимых устройствах. Модель содержит 1,2 млрд параметров, использует 4-битную квантизацию с размером группы 64 и занимает около 628 МБ. Заявленная длина контекста — до 128K токенов. Поддерживаются английский, японский, корейский, французский, испанский, немецкий, итальянский, португальский, арабский и китайский языки. Рекомендуемые параметры генерации включают temperature 0.1, top_k 50, top_p 0.1 и repetition_penalty 1.05. К сильным сторонам относятся компактный размер, сниженное потребление памяти благодаря 4-битному представлению, поддержка длинного контекста и оптимизация для экосистемы Apple Silicon через MLX. Ограничения README не описывает; в частности, отсутствуют сведения о результатах бенчмарков, фактическом качестве на отдельных языках и поддержке модальностей помимо текста. Модель распространяется по лицензии LFM 1.0.

lfm25-1.2b-pv-openness-low — текстовая генеративная модель, созданная PersonaPO на основе LiquidAI/LFM2.5-1.2B-Base и дообученная с помощью TRL. Она предназначена для диалоговых ответов и генерации текста; пример в карточке показывает ответ на открытый вопрос в формате чата. Модель семейства LFM2 имеет плотную архитектуру Lfm2ForCausalLM, содержит 1,5 млрд параметров и поддерживает контекст до 128 000 токенов. Доступны веса в формате safetensors и лицензия базовой модели не установлена по предоставленным данным.

LFM2.5-1.2B-Thinking-ToMoE-GGUF — набор GGUF-квантизаций модели, опубликованный Nichonauta. Основа — LiquidAI/LFM2.5-1.2B-Thinking, преобразованная в ToMoE Mixture-of-Experts. Модель предназначена для генерации текста и задач, требующих рассуждений; поддерживает нативное поведение с блоком <think>. Указаны языки: английский, арабский, китайский, французский, немецкий, японский, корейский и испанский. Модель рассчитана на локальный запуск через llama.cpp, включая сценарии on-device с объёмом хранения менее 1 ГБ. Доступны варианты BF16 размером 2343 МБ, Q8_0 размером 1186 МБ и Q4_K_M размером 695 МБ. Рекомендуемый контекст — до 32768 токенов. В README не указаны точные параметры архитектуры и число активных экспертов; размер модели обозначен как 1.2B в названии базовой модели. Для Q4_K_M заявлена скорость около 302 токенов в секунду на RTX 3060, для Q8_0 — около 212, для BF16 — около 125. Важное ограничение GGUF-версии заключается в том, что llama.cpp не поддерживает нативные ToMoE-эксперты и динамические V-маски. Поэтому модель восстановлена как плотный эквивалент и по поведению соответствует плотной базовой модели, а не исходной MoE-версии. Для использования настоящего MoE требуется версия safetensors с параметром trust_remote_code. Производительностью и компактностью особенно выделяется Q4_K_M, однако квантизация может снижать точность по сравнению с BF16. Производная распространяется по лицензии LFM Open License v1.0; ссылка на лицензию указана в карточке модели.

virtuanista/LFM2.5-8B-A1B-Uncensored-GGUF — это версия языковой модели LFM2.5-8B-A1B от Liquid AI без встроенного поведения, направленного на отказ от ответов. virtuanista выполнил abliteration, квантование и подготовку модели в формате GGUF для локального запуска. Модель предназначена для генерации текста, работы в качестве локального ассистента, следования инструкциям и задач, требующих рассуждений, при этом сохраняет блоки рассуждений <think>...</think>. Модель использует гибридную архитектуру, объединяющую короткие свёрточные блоки shortconv/LIV, внимание GQA и слои MoE, а не классический чистый Transformer. Заявлен контекст до 128K токенов. Доступны квантованные варианты IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 4,6 до 9 ГБ, что позволяет выбирать между требованиями к памяти и качеством. Модель поддерживает запуск через llama.cpp и Ollama; README не указывает поддерживаемые языки. Сильные стороны — локальная и приватная работа, несколько вариантов квантования, высокая заявленная длина контекста и сохранение возможностей базовой модели после модификации. Ограничение версии заключается в отсутствии стандартных защитных барьеров: она отвечает с меньшим количеством фильтров, поэтому требует осторожного применения и не гарантирует безопасность или достоверность результатов. Модель распространяется по LFM Open License v1.0: коммерческое использование разрешено при годовой выручке менее 10 млн долларов, исследовательское и некоммерческое использование не ограничено; при перераспределении необходимо сохранять уведомления об авторских правах и атрибуцию Liquid AI.

Limite 1B Base — базовый чекпойнт семейства Limite 1B после этапа предварительного обучения; модель представлена Paradigma Inc. Она предназначена для генерации текста и диалоговых сценариев, а также может служить исходной точкой для дальнейшей адаптации. Архитектура — плотная авторегрессионная LimiteForCausalLM примерно с 996,3 млн параметров; заявленная длина контекста составляет 131 072 токена. Модель запускается через Hugging Face Transformers и сохраняется в формате safetensors. Для загрузки требуется разрешить выполнение кода архитектуры из репозитория с помощью trust_remote_code=True. В README указана поддержка SDPA с DynamicCache и смешанным global/sliding-window StaticCache, включая StaticCache с torch.compile. Лицензия — Apache-2.0. README направляет к более позднему чекпойнту Limite 1B Violetto для актуальной версии и полной карточки; сведения о языках и специализированных доменах в предоставленных данных отсутствуют.

MergedQwen2-0.5B0.5 — языковая модель на архитектуре Qwen2, созданная методом линейного слияния двух предварительно обученных моделей: debias_Qwen2-0.5B и Qwen2-0.5B. Веса объединены поровну с нормализацией; для токенизатора использована модель Qwen2-0.5B. Репозиторий содержит веса в формате safetensors, модель рассчитана на генерацию текста и поддерживает чатовый сценарий. В модели около 493,7 млн параметров, заявленная длина контекста — 131 072 токена. Она может использоваться для диалоговой генерации текста и иных задач, решаемых авторегрессионной языковой моделью. Сведения о лицензии, языковой специализации и результатах оценки качества в предоставленных источниках отсутствуют.

AtomicChat/Ling-3.0-flash-GGUF — набор GGUF-квантизаций модели inclusionAI/Ling-3.0-flash, подготовленный AtomicChat. Модель предназначена для генерации текста и диалоговых сценариев, запускаемых локально через llama.cpp; в GGUF встроен шаблон чата, поддерживаются режим рассуждений и вызовы инструментов. Исходная модель имеет 124 млрд параметров, из которых 5,1 млрд активны при обработке токена. Архитектура сочетает гибридное линейное внимание и Mixture-of-Experts на 512 экспертов: 35 блоков KDA чередуются с 7 блоками gated MLA в соотношении 5:1. Доступны варианты размером примерно от 32,4 до 89,4 ГБ; наиболее качественным вариантом для соответствующего объёма памяти заявлен AD-Q5_K_M. Контекст в примере запуска составляет 32 768 токенов, однако максимальный поддерживаемый размер контекста в README не указан. Языки и мультимодальные возможности не заявлены. Ключевая особенность — квантизация Atomic Dynamic, при которой точность распределяется с учётом роли тензоров, типа проекции и глубины блока. По приведённым измерениям, некоторые варианты имеют меньшую ошибку KL относительно BF16, чем стандартные квантизации llama.cpp аналогичного размера. При этом для запуска требуется специальная сборка llama.cpp TurboQuant и значительный объём памяти; память нужна также под контекст. Варианты с очень малым размером, особенно AD-IQ1_S и AD-IQ2_M, заметно теряют качество. Для Intel GPU готового SYCL-архива нет. Лицензия — MIT.

bartowski/LiquidAI_LFM2-1.2B-RAG-GGUF — это набор GGUF-квантизаций модели LiquidAI/LFM2-1.2B-RAG, подготовленный пользователем bartowski с применением llama.cpp и imatrix-калибровки. Модель относится к классу text-generation и предназначена для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Базовая модель имеет размер 1,2 млрд параметров и ориентирована на сценарии retrieval-augmented generation (RAG), то есть на генерацию текста с использованием предоставленного контекста или найденных документов. В репозитории доступны варианты от BF16 до 2-битных и 8-битных квантизаций размером примерно от 0,52 до 2,34 ГБ. Более высокие квантизации обычно сохраняют лучшее качество, тогда как низкобитные варианты требуют меньше оперативной памяти, но могут заметно уступать по качеству. Сильная сторона набора — возможность запускать модель локально на устройствах с разным объёмом памяти; варианты Q4_K_M, Q5, Q6 и другие рекомендуются автором как компромисс между размером и качеством. В README не указаны архитектура, поддерживаемые языки, размер контекстного окна, точные мультимодальные возможности, результаты оценки и формат промпта. Лицензия также не указана, поэтому условия использования необходимо проверять на странице исходной модели LiquidAI/LFM2-1.2B-RAG.

LiquidJustice-MOE-V1 — дообученная Yosan443 языковая модель на архитектуре LiquidAI LFM2.5-8B-A1B MoE. Она предназначена для диалогов и генерации текста; метаданные также указывают интерфейс для вызова инструментов. Модель содержит 1,6 млрд параметров и поддерживает контекст до 128 000 токенов. Модель обучена с использованием Unsloth и библиотеки TRL. В карточке не описаны специализированная область, состав обучающих данных или результаты оценки качества. Распространяется по лицензии Apache-2.0.

Fischerboot/ll3-c3-merged — объединённая причинная языковая модель семейства Llama, созданная разработчиком Fischerboot с помощью mergekit. В README указано, что использован метод passthrough и объединены Fischerboot/llama3-carlodda-v1 и Fischerboot/ll3-c3-lora-new. Модель предназначена для генерации текста. Она имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста составляет 8192 токена. В репозитории представлены веса в формате safetensors. README и метаданные не описывают целевые сценарии, языки, сравнительные преимущества или результаты оценки качества. Лицензия в предоставленных сведениях не указана.

LLaDA-8B-Base — базовая языковая модель семейства LLaDA, разработанная командой GSAI-ML и обученная с нуля. Это плотная модель на 8 млрд параметров, использующая диффузионный подход к генерации текста; репозиторий содержит веса в формате Safetensors и поддерживает Transformers. Модель предназначена для генерации текста и может служить базой для диалоговых сценариев и дальнейшей адаптации. В карточке заявлено, что по результатам разработчиков она сопоставима по качеству с LLaMA 3 8B. Данных о поддерживаемых языках и длине контекста в предоставленных источниках нет. Модель распространяется по лицензии MIT. Карточка сообщает об обновлении кода для поддержки attention_mask, но не приводит подробных ограничений или результатов оценки для отдельных задач.

Карточка модели Neko-Institute-of-Science/LLaMA-13B-HF на Hugging Face совпадает с карточкой Neko-Institute-of-Science/LLaMA-7B-HF, поэтому описание составлено по ней. LLaMA-7B-HF — преобразованная в формат Transformers версия языковой модели LLaMA, опубликованная Neko Institute of Science. Это плотная авторегрессионная модель с архитектурой LlamaForCausalLM и примерно 6,6 млрд параметров; она предназначена для генерации текста. Контекст модели составляет 2048 токенов. Репозиторий содержит веса PyTorch и Safetensors. Для использования требуется соблюдать специальную лицензию и условия, изложенные в файле LICENSE. README также предупреждает, что в упомянутой торрент-копии устарели tokenizer_config.json и special_tokens_map.json; эти файлы следует заменить версиями из карточки модели.

circulus/Llama-2-13b-orca-v1 — языковая модель семейства Llama 2, представленная в формате PyTorch и рассчитанная на генерацию текста. Карточка связывает её с набором данных Open-Orca/OpenOrca; в README приведён пример загрузки 4-битной версии через Transformers и BitsAndBytes, с вычислениями в bfloat16. Модель содержит 12,9 млрд параметров, поддерживает контекст до 4096 токенов и ориентирована на английский язык. Её можно применять для генерации ответов и продолжения текста. В метаданных указана лицензия MIT. README не сообщает результаты оценки качества или подробные ограничения сценариев использования.

Korabbit/Llama-2-7b-chat-hf-afr-100step-v2 — экспериментальная чат-модель Korabbit, основанная на Llama-2-7b-chat и обученная автором с использованием подхода «AFR training». В карточке приведён пример ответа на инструкцию реализовать бинарный поиск на Python; метаданные указывают архитектуру LlamaForCausalLM, около 6,6 млрд параметров и контекст до 4096 токенов. Модель предназначена для диалоговых ответов на инструкции и общих текстовых запросов, включая вопросы о программировании. В метаданных указан английский язык и набор данных vicgalle/alpaca-gpt4. Указана лицензия llama2. README описывает подход к обучению лишь кратко, поэтому его детали и качество модели по примеру оценить нельзя.

FriendliAI публикует FP8-версию диалоговой модели Meta Llama 2 7B Chat. Это плотная авторегрессионная Transformer-модель класса LlamaForCausalLM с 6,6 млрд параметров, настроенная для чата с помощью supervised fine-tuning и обучения с обратной связью от людей. Она принимает текст и генерирует текст, поддерживает контекст до 4096 токенов и предназначена прежде всего для англоязычного общения с ассистентом и генерации ответов. Квантизация FP8 повышает эффективность инференса при сохранении заявленного в README высокого качества. Для запуска модель рассчитана на Friendli Container; FP8 поддерживается GPU NVIDIA Ada, Hopper и Blackwell. Использование регулируется лицензией Meta Llama 2: для доступа к исходным весам и токенизатору требуется принять её условия. Модель может выдавать неточные, предвзятые или нежелательные ответы; перед внедрением следует проверить её на сценариях приложения.

Trelis опубликовал шардированную версию Meta Llama-2-Chat-7B в формате Hugging Face Transformers. Это плотная авторегрессионная трансформерная языковая модель примерно на 6,6 млрд параметров с контекстом до 4096 токенов; веса разбиты на файлы размером не более 5 ГБ, чтобы упростить загрузку, в том числе в Google Colab. Модель принимает текст и генерирует текст, она настроена для диалогов и сценариев работы ассистента на английском языке. Модель подходит для диалоговых помощников, ответов на вопросы и генерации текста на английском языке. Для ожидаемого поведения чат-версии следует использовать форматирование Llama 2 с маркерами инструкций и токенами BOS/EOS. Модель может выдавать неточную, предвзятую или нежелательную информацию, поэтому перед применением её следует оценить и адаптировать к конкретной задаче. Использование регулируется специальной лицензией Meta для Llama 2; перед получением весов требуется принять её условия.

RedHatAI/Llama-2-7b-dolphin-open_platypus-pruned_70 — разреженная на 70% модель Llama 2 с 6,6 млрд параметров, дообученная на следование инструкциям на смеси наборов Platypus, OpenOrca и Dolphin. Она предназначена для генерации текста в ответ на инструкции и может запускаться через библиотеку Transformers; для ускоренного инференса с использованием разреженности в README упоминаются nm-vllm и deepsparse. Контекст модели — до 4096 токенов. В приведённых бенчмарках модель уступает Llama-2-7b-instruct: например, результаты составляют 42,33% против 48,60% на MMLU, 77,21% против 79,45% на HellaSwag и 71,90% против 75,69% на WinoGrande. Репозиторий содержит веса safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

Llama 2 7B GGUF — это квантизированная версия большой языковой модели Llama 2 7B, разработанной Meta. Репозиторий подготовлен TheBloke и содержит файлы в формате GGUFv2 для запуска модели через llama.cpp и совместимые библиотеки и пользовательские интерфейсы. Модель предназначена для генерации текста на английском языке и поддерживает сценарии локального вывода, включая диалоговые приложения, создание текста и другие задачи text generation. Архитектура — Llama, размер — 7 миллиардов параметров, модальность — текстовая. В репозитории доступны варианты квантизации от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством; конкретные размеры файлов и максимальные требования к RAM в представленном фрагменте не указаны. Формат GGUF поддерживает метаданные, специальные токены и улучшенную токенизацию, а также совместим с llama.cpp, text-generation-webui, LM Studio, KoboldCpp, ctransformers, llama-cpp-python и другими инструментами. Ограничения включают возможное снижение качества из-за квантизации и отсутствие данных о размере контекста, точных характеристиках производительности и мультиязычных возможностях. Лицензия указана как llama2; модель основана на исходной Meta Llama 2 7B.

guardrail/llama-2-7b-guanaco-instruct-sharded — разговорная языковая модель на архитектуре Llama, дообученная с помощью QLoRA на наборе timdettmers/openassistant-guanaco. Она предназначена для генерации текста и ответов на инструкции в диалоговом формате. Репозиторий содержит веса safetensors, разбитые на части для загрузки в Google Colab; в README рекомендуется запуск через Transformers с 4-битной загрузкой. Модель насчитывает 6,6 млрд параметров и имеет контекст длиной 2048 токенов. В метаданных указана лицензия Apache-2.0. Карточка не сообщает, для каких языков она рассчитана, поэтому языковую специализацию определить нельзя.

NousResearch/Llama-2-7b-hf — преобразованная в формат Hugging Face Transformers версия предварительно обученной языковой модели Llama 2 7B, разработанной Meta. Это авторегрессионная плотная трансформерная модель для генерации текста с 6,6 млрд параметров и контекстом до 4096 токенов; она принимает текст и выдаёт текст. Модель предназначена для англоязычной генерации естественного языка и может служить основой для адаптации под различные задачи. Это базовая предварительно обученная версия, а не вариант Llama-2-Chat, настроенный для диалога. Модель распространяется по специальной лицензии Meta для Llama 2; для получения весов требуется принять условия лицензии. Ответы могут быть неточными, предвзятыми или нежелательными, поэтому перед внедрением модель следует проверять и адаптировать для конкретного сценария. В карточке использование на языках, кроме английского, указано как выходящее за рамки предполагаемого применения.

sharpbai/Llama-2-7b-hf — версия предварительно обученной языковой модели Llama 2 от Meta, размещённая в формате Transformers и разбитая на части для загрузки. Это авторегрессионная плотная модель на архитектуре Transformer с 6,6 млрд параметров; она принимает текст и генерирует текст, а её контекст составляет 4096 токенов. Модель предназначена для генерации текста на английском языке и может служить основой для различных задач обработки естественного языка. Это базовая предварительно обученная версия, а не вариант Llama-2-Chat, настроенный для диалога. Семейство Llama 2 обучалось на публично доступных данных; данные предварительного обучения охватывают период до сентября 2022 года. Модель разработала Meta. Для использования весов требуется принять специальную лицензию Meta для Llama 2; карточка допускает коммерческое и исследовательское применение при соблюдении её условий. Модель может выдавать неточную, предвзятую или нежелательную информацию; перед применением в конкретном продукте рекомендуется провести оценку безопасности и настройку.

Xilabs/Llama-2-7b-Sharded — версия модели Llama 2 7B, опубликованной Meta и размещённой Xilabs в виде шардированных весов размером до 650 МБ для упрощения загрузки на устройства и облачные инстансы. Это авторегрессионная плотная трансформерная модель класса LlamaForCausalLM с 6,6 млрд параметров, форматом PyTorch и контекстом до 4096 токенов. Модель принимает текст и генерирует текст. Она предназначена для генерации на английском языке и может служить основой для разных задач генерации естественного языка; эта карточка описывает предварительно обученную модель, а не вариант Llama-2-Chat. Шардирование меняет организацию файлов, а не назначение модели. Для использования требуется соблюдать условия лицензии LLAMA 2 Community License Agreement. Модель может выдавать неточную, предвзятую или нежелательную информацию; перед внедрением следует проверить её поведение в целевом сценарии.

MaziyarPanahi/Llama-3-11B-Instruct-v0.1 — диалоговая языковая модель, созданная MaziyarPanahi как self-merge модели Meta-Llama-3-8B-Instruct. Она предназначена для генерации текста в формате беседы: ответов на вопросы, инструкций и запросов к ассистенту. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 11 млрд параметров и использует библиотеку Transformers; доступны веса в формате safetensors. Нативная длина контекста — 8192 токена. В карточке приведён пример ответа на арифметическую задачу и способ загрузки модели через Transformers. В метаданных указан английский язык. Лицензия обозначена как other; конкретные условия следует проверять в материалах репозитория и базовой модели. Это производная модель, заявленная как слияние, хотя метаданные классифицируют связь с базовой моделью как дообучение.