I.5Создание и редактирование текста

trinhkhng/linear_Merged_gpt2-medium_0.3 — языковая модель семейства GPT-2, созданная слиянием методом Linear через mergekit. В слиянии использованы /kaggle/working/gpt2-medium с весом 0,7 и /kaggle/working/debias_gpt2-medium с весом 0,3; для токенизатора указан ComCom/gpt2-small. Модель предназначена для генерации текста по текстовому контексту и может применяться для продолжения фраз и создания черновиков. Модель использует плотную архитектуру GPT2LMHeadModel, распространяется в формате safetensors и поддерживает контекст до 1024 токенов. В карточке нет данных о лицензии или специальных прикладных областях. Слияние с моделью, обозначенной как debias_gpt2-medium, само по себе не подтверждает отсутствие предвзятости или её снижение.

Ling-2.6-flash-MXFP4 — квантизированная версия языковой модели Ling-2.6-flash, подготовленная Jinho Jang из OsaurusAI на базе модели InclusionAI. Это гибридная MoE-модель с архитектурой Bailing-V2.5: в ней 103 млрд параметров, из которых активно около 8 млрд, 256 экспертов с выбором восьми на токен, 32 слоя с сочетанием MLA и Lightning Linear Attention, а также голова Multi-Token Prediction. Контекст составляет 131 072 токена. Модель предназначена для генерации текста, диалога, рассуждений и вызова инструментов; её можно применять в многошаговых агентных сценариях. Все основные веса представлены в 4-битном формате MXFP4 с группами по 32 значения, а нормализации, роутеры, смещения экспертов и параметры наклона сохранены в FP16 или FP32. Файлы общим размером около 63 ГБ рассчитаны на запуск через MLX на компьютерах Apple Silicon с достаточным объёмом памяти. Квантизация уменьшает объём модели относительно исходной версии в BF16 и позволяет использовать штатную загрузку MLX без отдельной среды TurboQuant. При этом заявленный сценарий запуска требует мощного Apple Silicon и не гарантирует совместимость с другими платформами. Модель распространяется по лицензии MIT.

Ling-3.0-flash-GGUF — это набор GGUF-конвертаций модели Ling-3.0-flash, разработанной inclusionAI и опубликованной пользователем bloomer010 для запуска через llama.cpp. Модель предназначена для генерации текста, диалоговых и агентских сценариев, включая вызов инструментов, рассуждения и speculative decoding. В основе лежит гибридная архитектура KDA и gated MLA с Mixture-of-Experts на 512 экспертов: общий размер составляет около 124 млрд параметров, из которых активно примерно 5,1 млрд. Конвертации напрямую созданы из BF16 safetensors и включают блок MTP/NextN, поэтому отдельная drafter-модель для этого режима не требуется. Поддерживается контекст до 256K токенов; README не указывает набор языков и наличие мультимодальных возможностей. Доступны варианты квантования от BF16 и Q8_0 до сильно сжатых IQ1 и MXFP4_MOE, что позволяет адаптировать модель к разному объёму памяти. Качество обычно выше у крупных файлов, а малые варианты требуют меньших ресурсов, но могут сильнее терять точность и стабильность. Для эффективного speculative decoding также предлагаются отдельные DSpark draft-модели. Агентское использование в llama.cpp зависит от поддержки актуальных изменений, связанных с Ling parser и обработкой некорректных UTF-8-последовательностей; без них возможны сбои при вызове инструментов в незавершённых блоках рассуждений. Модель распространяется по лицензии MIT.

Ling-3.0-flash-GGUF — текстовая генеративная модель, разработанная командой inclusionAI. Это следующее поколение нативной гибридной reasoning-модели, предназначенной для генерации текста и решения задач, требующих рассуждений. Модель доступна в формате GGUF и может использоваться в совместимых локальных средах инференса. Модель содержит 124 млрд общих параметров, при этом активными во время обработки являются около 5,1 млрд параметров. По заявлению разработчиков, такая архитектура позволяет ей соответствовать или превосходить предыдущую флагманскую модель на ключевых бенчмарках при значительно меньшем числе активных параметров. Поддерживаемые языки, максимальная длина контекста, конкретные модальности и детальные результаты тестирования в предоставленной карточке не указаны. Сильными сторонами модели заявлены гибридное reasoning и высокая эффективность за счёт активации только части параметров. Ограничения и требования к аппаратному обеспечению, особенности квантования GGUF, языковые возможности и применимые сценарии следует уточнять в полной карточке модели. Модель распространяется по лицензии MIT.

Ling-3.0-tiny-GGUF — набор квантизованных файлов модели Ling-3.0-tiny, разработанной IBM и опубликованной в формате GGUF для запуска через llama.cpp. Модель предназначена для локального и периферийного развертывания, генерации текста, задач рассуждения и агентских сценариев с возможностью выбирать между быстрым ответом и режимом пошагового reasoning. Модель содержит 7,9 млрд параметров, из которых на каждый токен активируется около 1,3 млрд. Она использует гибридную архитектуру с чередованием слоёв KDA (Kimi Delta Attention) и MLA (Multi-Head Latent Attention) в соотношении 3:1, а также разреженный MoE-слой с 128 маршрутизируемыми экспертами. Заявлена поддержка эффективной обработки длинного контекста, однако конкретный максимальный размер контекста и поддерживаемые языки в README не указаны. Для файлов доступны варианты от BF16 и F16 до экстремально сжатых 1–8-битных квантований; типичный компромисс между качеством и размером — Q4_K_M. Сильные стороны модели — малое число активируемых параметров, экономичное потребление памяти, высокая скорость инференса и встроенный настраиваемый режим рассуждения. В README приведены ориентиры около 100–105 токенов в секунду на NVIDIA DGX Spark и 86–90 токенов в секунду на MacBook с M4 Pro при FP8, а также пиковое потребление около 8,34 ГБ памяти при контексте 8K. Ограничения зависят от выбранного уровня квантования: сильное сжатие снижает качество и может ухудшать связность ответов. Лицензия в предоставленном README не указана.

LiquidAI_LFM2.5-2.6B-GGUF — это квантизированная версия языковой модели LFM2.5-2.6B, разработанной LiquidAI и подготовленной пользователем bartowski в формате GGUF для запуска через llama.cpp. Модель предназначена для генерации текста и локального использования на устройствах с ограниченными ресурсами, включая edge-сценарии. Она поддерживает только текстовый ввод, не использует MTP и поставляется с imatrix-квантизациями. Модель содержит около 3 млрд параметров и поддерживает арабский, китайский, английский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, польский, португальский, русский, испанский, тайский и вьетнамский языки. Доступны варианты от BF16 и Q8_0 до более компактных Q2- и IQ-квантизаций. Q4_K_M размером около 1,68 ГБ обозначен как сбалансированный вариант для большинства задач, а версии Q5–Q6 обеспечивают более высокое качество при большем потреблении памяти. Более низкие уровни квантизации экономят место, но могут заметно снижать качество генерации. Размер контекста и подробности архитектуры в карточке не указаны. Модель удобна для локального инференса и приложений, где важны компактность, многоязычность и совместимость с llama.cpp. Использование регулируется лицензией LFM 1.0; в карточке указано, что это лицензия с отдельными условиями, а не стандартная open-source лицензия.

LLaDA-1.5 — плотная языковая модель семейства LLaDA от GSAI-ML, предназначенная для генерации текста и диалогового взаимодействия. Для загрузки автор рекомендует библиотеку Transformers; веса доступны в формате Safetensors. Модель можно использовать для построения чат-ботов и приложений, генерирующих текст по текстовому запросу. Карточка не приводит размер модели, длину контекста, поддерживаемые языки или результаты оценки качества. Лицензия MIT разрешает использование, модификацию и распространение на её условиях.

LLaDA2.0-flash-CAP — языковая модель компании InclusionAI на основе диффузионной архитектуры Mixture-of-Experts. Она предназначена для генерации текста и диалоговых ответов, включая задачи знаний, рассуждений, программирования и математики. Обучение Confidence-Aware Parallel (CAP) повышает уверенность модели в корректных предсказаниях, чтобы ускорить параллельное декодирование. В README указана архитектура базовой LLaDA2.0-flash с 100 млрд параметров, 32 слоями, 32 головами внимания и контекстом 32 768 токенов; метаданные репозитория указывают 5,5 млрд параметров. В сравнении с базовой версией README сообщает ускорение генерации в 1,46 раза при небольшом снижении среднего результата на бенчмарках. Модель работает с текстом; для снижения риска смешения языков авторы рекомендуют температуру 0.0. Репозиторий распространяется по лицензии Apache-2.0.

jphme/Llama-2-13b-chat-german — немецкоязычная чат-модель на основе Llama 2, разработанной Meta и дообученной автором репозитория для ответов на немецком языке. Она предназначена для диалогов, генерации текста и ответов на вопросы; в карточке приведены примеры общих вопросов и извлечения фактов из переданного контекста, а среди датасетов указаны немецкие наборы SQuAD, включая юридический. Модель использует плотную авторегрессионную архитектуру Transformer LlamaForCausalLM, содержит 12,9 млрд параметров и имеет контекст 4096 токенов. Принимает текст и выдаёт текст; в метаданных отмечены немецкий и английский языки. Для чата следует соблюдать формат инструкций Llama 2. Карточка указывает лицензию Meta с пользовательскими условиями, для получения весов требуется принять лицензию.

Llama-2-13B-Chat-GGUF — чат-модель семейства Llama 2, разработанная Meta и представленная в формате GGUF компанией Second State Inc. Это квантизированная версия базовой модели meta-llama/Llama-2-13b-chat-hf для генерации текста и диалогового взаимодействия. Модель предназначена для чат-ботов, ответов на вопросы и других сценариев текстовой генерации. В README указаны английский язык, архитектура Llama и размер 13 миллиардов параметров. Для запуска с LlamaEdge используется шаблон llama-2-chat и контекст размером 5120 токенов. Доступны варианты с квантизацией от 2 до 8 бит, а также f16; их размер варьируется примерно от 5,43 до 26 ГБ. Основное преимущество модели — возможность выбрать компромисс между размером файла, требованиями к ресурсам и качеством генерации. Рекомендуемыми названы варианты Q4_K_M и Q5_K_M, тогда как низкобитные версии заметно теряют в качестве. README не содержит сведений о мультимодальности, результатах тестирования или поддержке других языков. Модель распространяется по лицензии llama2.

Llama 2 13B Chat — языковая модель Meta для диалоговых сценариев, представленная в формате Hugging Face Transformers. Это авторегрессионная модель на оптимизированной архитектуре Transformer с 13 млрд параметров; версия Chat выровнена с помощью контролируемого дообучения и обучения с подкреплением на основе отзывов людей. Она принимает текст и генерирует текст, а для диалога ожидает специальный формат сообщений Llama 2. Модель рассчитана прежде всего на англоязычные запросы и имеет контекст длиной 4 тысячи токенов. Модель подходит для создания чат-ассистентов и генерации ответов на вопросы и инструкции. Meta сообщает о хороших результатах на ряде тестов и оценок полезности и безопасности, однако ответы могут быть неточными, предвзятыми или нежелательными; перед внедрением требуется проверка под конкретный сценарий. Использование регулируется лицензией Meta Llama 2; для получения весов необходимо принять её условия.

NousResearch/Llama-2-13b-hf — версия предварительно обученной языковой модели Llama 2 на 13 млрд параметров, разработанной Meta и размещённой в формате Transformers для PyTorch и safetensors. Это плотный авторегрессионный трансформер LlamaForCausalLM с контекстом до 4096 токенов; модель принимает текст и генерирует текст. Модель предназначена прежде всего для генерации текста на английском языке. Её можно адаптировать для различных задач генерации естественного языка; это предварительно обученная версия, а не вариант Llama-2-Chat, специально настроенный для диалога. Семейство обучалось на общедоступных источниках, а дата отсечения предобучающих данных — сентябрь 2022 года. Модель может выдавать неточную, предвзятую или нежелательную информацию, а её ответы не всегда предсказуемы; перед внедрением требуется проверка безопасности и настройка под конкретное применение. Использование регулируется специальной лицензией Meta для Llama 2: для получения весов требуется принять её условия.

TroyDoesAI/Llama-21B — плотная языковая модель семейства Llama на 20,9 млрд параметров, опубликованная TroyDoesAI. По карточке автор создал её с помощью mergekit как новую базовую модель, совместимую с инструментами и окружением для моделей Llama. Она предназначена для генерации текста и диалогового общения; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает состав слияния, обучающие данные, поддерживаемые языки или результаты оценки качества, поэтому нельзя уточнить её специализацию и надёжность для конкретных задач.

nkpz/llama2-22b-daydreamer-v3 — дообученная автором модель семейства Llama для генерации текста. Она создана на основе Llama 2 13B, расширенной до 22B параметров с использованием данных Llama 1 33B, а затем дообучена с помощью крупных LoRA-адаптеров и их слияния. В метаданных указаны архитектура LlamaForCausalLM, формат PyTorch и контекст до 4098 токенов. Модель предназначена для ответов на вопросы, выполнения инструкций и диалогов, включая ролевые сценарии и имитацию речевых стилей. Автор ориентировал её на английский язык, исключил из обучения примеры по программированию и отмечает выразительность в творческих запросах и сухой, точный стиль в информационных ответах. В README приведены результаты оценки на Open LLM Leaderboard, однако автор указывает, что формальное выявление слабых мест через бенчмаркинг ещё предстоит. Лицензия обозначена в метаданных как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.

NousResearch/Llama-2-70b-chat-hf — версия чат-модели Llama 2, разработанной Meta и опубликованной NousResearch в формате Transformers для Hugging Face. Это авторегрессионная плотная трансформерная модель с 68,7 млрд параметров, настроенная на диалог с помощью контролируемого дообучения и обучения с подкреплением на основе отзывов людей. Версия 70B использует Grouped-Query Attention; длина контекста — 4096 токенов. Модель принимает текст и генерирует текст. Она предназначена для диалоговых сценариев на английском языке: ответов на вопросы, работы в роли помощника и генерации текста. Модель статична, обучалась на данных с отсечкой знаний до сентября 2022 года, хотя часть данных дообучения датирована позднее. Для использования весов требуется принять пользовательскую коммерческую лицензию Meta; применяются её условия и ограничения. Ответы могут быть неточными, предвзятыми или нежелательными, а оценка модели проводилась преимущественно на английском языке и не охватывает все сценарии. Перед внедрением следует проверять безопасность и качество в целевом приложении. Модель не предназначена по условиям карточки для использования на языках, отличных от английского.

manojpreveen/Llama-2-70b-hf-ChatOrca-v2 — чат-модель на архитектуре Llama 2, разработанная Manojpreveen на основе meta-llama/Llama-2-70b-hf. Модель дообучена на данных Orca, OpenPlatypus и многошаговых диалогах из открытых наборов, включая OpenAssistant и Ultrachat, чтобы улучшить рассуждения и поддержку диалога в несколько ходов. Модель предназначена для генерации ответов, ведения диалогов и решения задач на рассуждение по текстовым запросам. Она содержит 68,7 млрд параметров, имеет контекст до 4096 токенов и использует формат весов safetensors. Для корректных запросов следует применять шаблон чата Meta Llama 2, описанный в карточке модели. Модель работает с текстом и ориентирована на английский язык. Репозиторий распространяется по лицензии MIT. Качество зависит от запроса и обучающих данных; карточка не приводит отдельных оценок качества или подробных ограничений применения.

Shining Valiant 1.4 — диалоговая модель Valiant Labs на архитектуре Llama 2 с 70 млрд параметров. Она дообучена на частных и открытых данных, включая материалы для развития знаний, структурированных рассуждений и заданного характера: дружелюбного, увлечённого и вдумчивого. Модель предназначена для диалогов и генерации текста: она может отвечать на вопросы, объяснять темы, помогать с написанием писем и разбором текстовых задач. Использует формат запросов Llama 2 Chat. В репозитории размещены веса Safetensors; контекст — до 4096 токенов. Основной язык по карточке — английский. Авторы называют версию 1.4 наиболее сильной для обычных диалогов среди версий Shining Valiant, однако результаты её оценки на Open LLM Leaderboard ещё ожидались. Модель обозначена авторами как устаревшая: они рекомендуют Shining Valiant 2 на базе Llama 3.1. Лицензия — Llama 2; перед использованием следует соблюдать её условия.

TheTravellingEngineer/llama2-7b-chat-hf-dpo — чат-модель на архитектуре Llama 2, созданная дообучением Meta Llama 2 7B Chat с помощью DPO на датасете comparison_gpt4. Репозиторий содержит объединённую модель в формате FP16; число параметров — 6,6 млрд, длина контекста — 4096 токенов. Модель предназначена для генерации ответов в диалоге и других задач текстовой генерации. Её можно использовать в чат-ботах и для следования инструкциям; формат запроса похож на применяемый в Guanaco. В карточке указан английский язык. Модель распространяется по лицензии Llama 2 и подчиняется ограничениям использования исходной модели. Автор не предоставляет гарантий качества или пригодности для конкретной цели.

TheTravellingEngineer/llama2-7b-chat-hf-v2 — чат-модель на базе Meta Llama 2 7B, дообученная методом supervised fine-tuning (SFT) на датасете Alpaca. Она использует формат prompt, похожий на Guanaco, и предназначена для генерации ответов и диалогового взаимодействия на английском языке. Модель содержит около 6,6 млрд параметров, построена на плотной архитектуре LlamaForCausalLM и принимает контекст длиной до 4096 токенов. Репозиторий содержит объединённую модель в формате fp16 и safetensors. Лицензия — Llama 2; применяются ограничения на использование исходной модели Meta. Авторы не предоставляют гарантий.

Clibrain Llama-2-7B-ft-instruct-es — языковая модель на архитектуре Llama 2, дообученная на испанском наборе инструкций Clibrain. Она предназначена для генерации текста и выполнения пользовательских инструкций на испанском языке. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и работает с контекстом до 4096 токенов. Модель подходит для диалоговых помощников, ответов на вопросы и создания текстов на испанском языке. Репозиторий содержит веса в формате PyTorch. Лицензия — Apache-2.0.

Это плотная авторегрессионная модель семейства LLaMA 2, разработанная Да-вэем Чжу и соавторами в рамках работы PoSE. Чекпойнт содержит 6,6 млрд параметров и рассчитан на генерацию текста с контекстом до 16 384 токенов; расширение контекста использует позиционную интерполяцию YaRN и обучение Positional Skip-wisE (PoSE), которое имитирует длинные входы при обучении на фиксированном контексте. Модель предназначена для генерации продолжений и работы с длинными текстовыми запросами, например для анализа объемных документов или диалога с длинной историей. В README отмечена проблема с первоначально загруженным чекпойнтом: его заменили 27 ноября 2023 года, поскольку прежняя версия не соответствовала реализации из репозитория и показывала неоптимальное качество. В метаданных указана лицензия MIT; доступность лицензии не гарантирует пригодность ответов для конкретных применений.

ewqr2130/llama2-7b-raw-sft — дообученная методом supervised fine-tuning (SFT) языковая модель семейства Llama 2, представленная в формате safetensors. Репозиторий содержит плотную авторегрессионную архитектуру LlamaForCausalLM примерно на 6,6 млрд параметров; базовая модель и датасет для дообучения в карточке не названы. Модель предназначена для генерации текста. Контекст составляет до 4096 токенов. В карточке нет сведений о языках обучения, диалоговых возможностях и конкретных сценариях настройки, поэтому применимость к отдельным задачам и языкам оценить нельзя. Указана лицензия MIT.

vikash06/llama-2-7b-small-model-new — дообученная на небольшой выборке модель семейства Llama 2, опубликованная автором vikash06. Она предназначена для генерации текста и прямого использования в задачах творческого письма, ответов на вопросы по предоставленному отрывку и общих знаний, суммаризации, извлечения информации и классификации. Модель имеет плотную архитектуру LlamaForCausalLM и содержит 6,6 млрд параметров; максимальный контекст — 4096 токенов. Автор описывает обучение на экспериментальной основе для изучения эффекта более длительного обучения на небольшом наборе данных. В README указаны 1000 примеров для каждой категории и результаты оценки на бенчмарках HellaSwag и AI2 Reasoning Challenge. Это экспериментальная модель; результаты бенчмарков не гарантируют качество в иных сценариях. Репозиторий содержит веса Safetensors, лицензия — MIT.

Llama-3-11.5B — плотная авторегрессионная языковая модель семейства Llama, опубликованная beratcmn. Она собрана методом passthrough с помощью LazyMergekit из двух диапазонов слоёв одной и той же Meta-Llama-3-8B; в метаданных указано около 11 млрд параметров. Модель предназначена для генерации текста, а карточка также указывает обученную на её основе версию beratcmn/Llama-3-11.5B-v0.1. Модель принимает текст и выдаёт текст. Указанная длина контекста — 8192 токена. Базовая Meta-Llama-3-8B описана как модель для английского текста и кода, но отдельные языковые возможности производной модели в карточке не уточняются. Файлы модели представлены в формате safetensors. Для использования применяются условия лицензии базовой Meta-Llama-3-8B; сведения о лицензии в предоставленных данных отсутствуют.

MaziyarPanahi/Llama-3-11B-Instruct-v0.1-GGUF — набор квантованных файлов модели в формате GGUF, подготовленный разработчиком MaziyarPanahi на основе MaziyarPanahi/Llama-3-11B-Instruct-v0.1. Модель предназначена для генерации текста и использования в диалоговых сценариях, включая запуск через совместимые инструменты, такие как llama.cpp. Доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файла, требованиями к памяти и качеством работы. Модель относится к семейству Llama 3 и требует использования соответствующего шаблона промпта с управляющими токенами Llama 3. В README не указаны поддерживаемые языки, размер контекста, точная архитектура базовой модели, результаты оценки, лицензия и ограничения использования.

Llama-3-12B — разговорная языковая модель, созданная mlabonne с помощью LazyMergekit. В README она описана как слияние двух наборов слоёв Meta-Llama-3-8B; конфигурация использует метод passthrough и формат bfloat16. Архитектура — плотная модель семейства Llama с классом LlamaForCausalLM, размер составляет 11 млрд параметров, контекст — до 8192 токенов. Модель предназначена для генерации текста в диалоге и других сценариях продолжения текста. Базовая модель ориентирована на английский язык и код; метаданные отмечают возможность chat. Репозиторий содержит веса safetensors. Лицензия указана как other, поэтому конкретные условия следует сверить с файлами репозитория и лицензией исходной модели. README показывает повторное использование одной и той же базовой модели в обоих диапазонах слоёв, а метаданные классифицируют происхождение как дообучение. Точные сведения о качестве и результатах оценки не приведены.

Llama3-12B-wwe — объединённая языковая модель на архитектуре Llama, созданная сообществом mergekit-community методом passthrough из трёх моделей: hfl/llama-3-chinese-8b-instruct-v2, NousResearch/Hermes-2-Pro-Llama-3-8B и shenzhi-wang/Llama3-8B-Chinese-Chat. Она предназначена для генерации текста и диалогов; базовые модели ориентированы в том числе на китайский и английский языки, а Hermes-2-Pro добавляет разговорные возможности. Модель содержит 13,2 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; заявленная длина контекста — 8192 токена. В README описано объединение диапазонов слоёв трёх исходных моделей с точностью float16. Модель подходит для ответов в чате и продолжения текста. Лицензия в предоставленных данных не указана.

MaziyarPanahi/Llama-3-13B-Instruct-v0.1-GGUF — набор квантизованных файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе MaziyarPanahi/Llama-3-13B-Instruct-v0.1. Модель предназначена для генерации текста и диалоговых сценариев с использованием инструкционного формата Llama 3, включая работу через llama.cpp. Известно, что доступны варианты квантизации с разрядностью от 2 до 8 бит, что позволяет выбирать между меньшим размером файлов и потенциально более высоким качеством. Размер базовой модели составляет 13B параметров. Модальность — текстовая; сведения о поддерживаемых языках, размере контекста, точной архитектуре и результатах оценки в README не указаны. Для корректной работы требуется применять шаблон промпта Llama 3 и поддержка формата GGUF в используемом программном обеспечении. Лицензия в README не указана.

parmanu-lcs2/Llama-3.1-6B-Instruct — сжатая обрезкой версия Meta-Llama-3.1-8B-Instruct, подготовленная автором репозитория parmanu-lcs2. Модель использует плотную архитектуру Llama для генерации текста и диалогов. После обрезки в ней около 6,03 млрд параметров; метаданные указывают 7,5 млрд. Репозиторий содержит веса в формате safetensors, а библиотека для работы с ними — Transformers. Заявленная длина контекста — 131 072 токена. Обрезка выполнена методом SNIPER с целевым коэффициентом сжатия 25%; после неё модель дообучили LoRA на 2 000 примерах SlimOrca в течение одной эпохи, затем объединили адаптеры с весами. Модель рассчитана на текстовые запросы и ответы в чате. В README указана длина контекста 1 024 токена для этапа восстановительного дообучения, поэтому качество работы на длинном контексте отдельно не подтверждено. Условия лицензии в предоставленных данных не приведены.

MaziyarPanahi/Llama-3-16B-Instruct-v0.1 — диалоговая языковая модель семейства Llama, созданная MaziyarPanahi как self-merge модели MaziyarPanahi/Llama-3-11B-Instruct-v0.1. Она предназначена для генерации текста и ответов на инструкции в формате диалога; пример в карточке показывает решение простой арифметической задачи. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 16,2 млрд параметров и рассчитана на контекст до 8192 токенов. Принимает текст и выдаёт текст; в метаданных указан английский язык. Модель подходит для диалоговых ассистентов, ответов на вопросы и выполнения текстовых инструкций. Карточка указывает библиотеку Transformers и формат safetensors. Лицензия обозначена как other, поэтому условия использования следует сверять с лицензией репозитория. Отдельные сведения о сравнительных качествах и ограничениях модели в карточке не приведены.