I.5Создание и редактирование текста

MylesGoose Llama-3.2-3B-instruct-abliterated — чат-модель семейства Llama с 3,2 млрд параметров, основанная на Llama 3.2 3B Instruct. По названию репозитория модель прошла abliterated-модификацию, направленную на ослабление отказов; подробности метода и его эффекты в доступной карточке не раскрыты. Модель предназначена для генерации текста в диалоговом формате и поддерживает интерфейс вызова инструментов. Метаданные указывают контекстное окно до 131 072 токенов и формат весов safetensors. Репозиторий создан MylesGoose 27 сентября 2024 года. Лицензия обозначена как other, поэтому условия использования следует проверять в файлах репозитория. Доступная карточка не содержит описания обучения, языкового покрытия или результатов оценки качества.

Llama-3.2-3B-Instruct-abliterated — диалоговая языковая модель на 3,2 млрд параметров, созданная huihui-ai методом abliteration на основе meta-llama/Llama-3.2-3B-Instruct. Она предназначена для генерации текста и ответов в чате; автор позиционирует её как версию с ослабленными отказами. Модель использует плотную архитектуру LlamaForCausalLM, работает с текстом и имеет контекстное окно до 131 072 токенов. В README приведены результаты повторной оценки на IF_Eval, MMLU Pro и TruthfulQA, близкие к результатам базовой модели. Доступны веса в формате Safetensors; для запуска также описано использование через Ollama. Модель распространяется по лицензии Llama 3.2. README не уточняет, какие языки проверялись именно для этой производной модели.

Llama-3.2-3B-Instruct-bf16 — компактная инструкционная языковая модель семейства Llama 3.2, разработанная Meta и представленная в формате mlx-community. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы, следование инструкциям, создание и преобразование текста. В идентификаторе указано около 3 млрд параметров и формат чисел bfloat16; README также указывает совместимость с Transformers и использование экосистемы MLX. Модель работает с текстом и не заявлена как мультимодальная. Поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Размер контекста и точные архитектурные характеристики в README не указаны. К сильным сторонам относятся относительно небольшой размер, инструкционная настройка и многоязычная поддержка, что делает модель подходящей для локального запуска и прикладных текстовых задач при наличии совместимого оборудования. При этом в предоставленных данных нет результатов оценивания, сведений о фактическом качестве по языкам, ограничениях безопасности, производительности или рекомендуемых ресурсах, поэтому их нельзя оценить точнее. Модель распространяется по Llama 3.2 Community License от Meta. Лицензия разрешает использование, копирование, модификацию и распространение на установленных условиях, включая соблюдение Acceptable Use Policy, указание «Built with Llama», сохранение лицензионного уведомления и дополнительные требования для продуктов с более чем 700 млн ежемесячных активных пользователей.

Mudassir-75/Llama-3.2-3B-Instruct-ENG-FR — диалоговая текстовая модель Mudassir-75, дообученная на базе unsloth/Llama-3.2-3B-Instruct с использованием Unsloth и Hugging Face TRL. Она предназначена для генерации ответов в чате и других сценариев генерации текста. Модель использует плотную архитектуру LlamaForCausalLM и содержит 3,2 млрд параметров; заявленная длина контекста — 131 072 токена. Карточка и метаданные отмечают английский язык, но подробности обучения для языкового варианта ENG-FR не раскрыты. Модель распространяется по лицензии Apache-2.0.

lmstudio-community/Llama-3.2-3B-Instruct-GGUF — квантованная версия инструкционной модели Meta Llama 3.2 3B Instruct, подготовленная сообществом lmstudio-community; квантование выполнено bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение пользовательских инструкций, ответы на вопросы и использование в локальных приложениях через совместимые инструменты для GGUF. Модель относится к семейству больших языковых моделей Llama и работает с текстовой модальностью. В README указаны размер 3B параметров и поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Архитектурные детали, размер контекстного окна и конкретный уровень квантования в предоставленных данных не указаны. К сильным сторонам относятся компактный размер, инструкционное дообучение и возможность использования в локальной инфраструктуре с меньшими требованиями к ресурсам по сравнению с более крупными моделями. Ограничения включают неизвестные из README характеристики производительности, контекста и точности, а также типичные для генеративных языковых моделей риски неточных или нежелательных ответов. Модель распространяется на условиях Llama 3.2 Community License от Meta. Лицензия требует соблюдения Acceptable Use Policy, указания атрибуции и условий «Built with Llama» при распространении соответствующих материалов или продуктов; для организаций с более чем 700 миллионами ежемесячных активных пользователей предусмотрено дополнительное лицензионное ограничение.

Llama-3.2-3B-Instruct-GGUF — это набор квантизированных файлов модели в формате GGUF для meta-llama/Llama-3.2-3B-Instruct. Исходную модель разработала meta-llama, а квантизацию и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и использования в диалоговых и прикладных сценариях через совместимые локальные инструменты. Модель имеет около 3 миллиардов параметров и доступна в вариантах с квантизацией от 2 до 8 бит. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими библиотеками и приложениями, включая варианты с GPU-ускорением. README не содержит сведений о языках, размере контекста, поддерживаемых модальностях и конкретных показателях качества. Ключевые преимущества — уменьшенный размер файлов и возможность локального запуска на широком спектре устройств с использованием CPU или GPU. Ограничения связаны с потерями качества, возможными при низкобитной квантизации, а также с зависимостью от совместимого программного обеспечения. Лицензия в README не указана; условия использования исходной модели следует проверять отдельно в карточке meta-llama/Llama-3.2-3B-Instruct.

Llama-3.2-3B-Instruct-GGUF — квантованная версия инструкционной языковой модели Llama-3.2-3B-Instruct, разработанной Meta и преобразованной в формат GGUF компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая чат-взаимодействие и вызов инструментов с формированием JSON-запросов функций. Модель содержит около 3 миллиардов параметров, работает с текстом и поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Заявленный размер контекста составляет 128 000 токенов. Доступны варианты квантования от Q2_K до Q8_0 и F16 с размером файлов примерно от 581 МБ до 1,32 ГБ. В README рекомендуются варианты Q4_K_M, Q5_K_M и Q5_K_S как компромисс между размером и качеством; более агрессивное квантование уменьшает размер, но может заметно ухудшать качество ответов. Модель подходит для локального запуска на устройствах с ограниченными ресурсами и интеграции через LlamaEdge, включая сервисный и командный режимы. Для работы требуется совместимая версия LlamaEdge; в README указана версия v0.16.5 или новее. Ограничения включают снижение качества в младших вариантах квантования, а также отсутствие сведений о мультимодальности и подробных результатах оценки. Модель распространяется по лицензии Llama 3.2.

richardyoung/Llama-3.2-3B-Instruct-heretic — текстовая разговорная модель на базе Llama 3.2 3B от Meta, опубликованная пользователем richardyoung. Это авторегрессионный трансформер с 3,2 млрд параметров, рассчитанный на генерацию ответов в диалоге и другие задачи генерации текста. В карточке указаны контекст до 131 072 токенов и поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модификация обозначена как heretic, uncensored, decensored и abliterated; конкретный способ изменения модели в предоставленных данных не описан. Модель может применяться для чат-ассистентов, суммаризации, поиска по знаниям и переформулирования запросов. Она принимает текст и выдаёт текст. README указывает лицензию Llama 3.2 Community License — специальное соглашение с условиями использования, включая Acceptable Use Policy. Как и другие компактные языковые модели, она может уступать более крупным моделям в качестве и требует проверки безопасности при внедрении.

ishala/llama-3.2-3b-instruct-indo-grpo — плотная языковая модель семейства Llama с 3,2 млрд параметров, разработанная ishala. Это дообученная версия ishala/llama-3.2-3b-instruct-indo-sft; при обучении использовались Unsloth и библиотека TRL. Модель предназначена для генерации текста и диалогов, а метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Заявленная длина контекста — 131 072 токена; в тегах карточки указан английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Bunnycore Llama-3.2-3B-Mix-Skill — диалоговая языковая модель на архитектуре Llama с 3,2 млрд параметров, созданная объединением нескольких моделей методом TIES с помощью mergekit. Базовая модель — huihui-ai/Llama-3.2-3B-Instruct-abliterated; в объединение также вошли bunnycore/Llama-3.2-3B-Long-Think и bunnycore/Llama-3.2-3B-Pure-RP. Модель предназначена для ролевых диалогов, написания длинных ответов, следования инструкциям и творческой генерации: например, рассказов, стихов и сценариев. Поддерживает текстовый ввод и генерацию текста, доступна в Transformers в формате safetensors. Заявленная длина контекста — 131072 токена. Карточка приводит результаты оценок IFEval и BBH, но не описывает методику оценки подробно. Лицензия в предоставленных данных не указана.

tanliboy/llama-3.2-3b-sft — дообученная модель семейства Llama 3.2, созданная на основе tanliboy/llama-3.2-3b с помощью supervised fine-tuning на наборе tanliboy/OpenHermes-2.5-reformat. Это плотная авторегрессионная языковая модель с 3,2 млрд параметров, предназначенная для генерации текста и диалогового общения. Метаданные указывают контекстное окно до 131 072 токенов и интерфейс вызова инструментов. Модель можно применять для генерации ответов в чате и других задач продолжения текста. В README приведено значение loss 0,7216 на оценочном наборе, но подробности методики оценки и характеристик датасета не раскрыты. Модель опубликована в формате Safetensors для библиотеки Transformers под лицензией llama3.2. Языки поддержки не указаны.

bunnycore/Llama-3.2-3B-Stock — языковая модель семейства Llama, созданная методом Model Stock merge с помощью mergekit. В качестве основы использована alpindale/Llama-3.2-3B; в объединение также вошли модели для рассуждений и диалоговые версии Llama 3.2 3B, включая неконтентно ограниченный вариант. Модель содержит 3,2 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста по запросу и диалоговых сценариев. Карточка не приводит отдельные результаты оценки качества или подробные сведения о поддерживаемых языках. Лицензия в предоставленных данных не указана.

MedIT SUN 2.5B chat-1.0.0 — диалоговая языковая модель от MedIT Solutions на архитектуре Llama 3.2. Она создана на основе meta-llama/Llama-3.2-1B-Instruct: разработчик расширил модель примерно с 1 млрд до 2,47 млрд параметров и выполнил supervised fine-tuning на открытых наборах данных. Модель распространяется в формате Safetensors и рассчитана на генерацию текста, общие беседы и выполнение инструкций; метаданные указывают контекст до 131 072 токенов и интерфейс для вызова инструментов. Модель предназначена для диалогового помощника и задач повседневного взаимодействия на английском языке. Разработчик предупреждает, что обучение продолжается, поэтому ответы могут быть непоследовательными; модель не следует использовать как достоверный источник знаний, особенно там, где нужна высокая точность. Лицензия — Llama 3.2.

Llama3.3-70B-CogniLink-i1-GGUF — квантизированная GGUF-версия модели Daemontatox/Llama3.3-70B-CogniLink, подготовленная mradermacher. Это текстовая языковая модель семейства Llama с 70 миллиардами параметров, ориентированная на генерацию текста, выполнение инструкций и задачи, требующие рассуждений. Модель обучалась с использованием наборов данных Daemontatox/Deepthinking-COT и gghfez/QwQ-LongCoT-130K-cleaned; заявленный язык — английский. Поддержка других языков, мультимодальность и размер контекстного окна в README не указаны. Модель предназначена для локального запуска в приложениях и средах, совместимых с форматом GGUF. Доступно множество вариантов квантизации размером примерно от 15,4 до 58 ГБ, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством; README отмечает, что вариант i1-Q4_K_M является быстрым и рекомендуемым, а некоторые низкобитные варианты имеют пониженное качество. К ограничениям относятся возможная потеря качества из-за квантизации, высокие требования к ресурсам у 70B-версии и отсутствие опубликованных в README количественных результатов тестирования. Модель распространяется по лицензии Apache-2.0.

Ereeeeef3/llama-3.3-merged — текстовая модель семейства Llama, созданная автором репозитория с помощью mergekit из unsloth/Llama-3.3-70B-Instruct. Использован метод passthrough: слои базовой модели продублированы, а итоговая плотная архитектура LlamaForCausalLM содержит 55,8 млрд параметров. Модель предназначена для генерации текста и диалогового использования; доступен интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов и унаследованные от базовой модели многоязычные возможности. Репозиторий содержит веса safetensors, библиотека — Transformers. Лицензия — Apache-2.0. Карточка описывает способ слияния, но не приводит отдельной оценки качества итоговой модели; дублирование слоёв само по себе не подтверждает улучшение способностей базовой модели.

Shining Valiant 2 — разговорная языковая модель Valiant Labs, дообученная на основе Meta-Llama-3-70B-Instruct. Это плотная архитектура Llama 3 с 69,5 млрд параметров, предназначенная для генерации текста, диалогов и выполнения инструкций; модель использует формат запросов Llama 3 Instruct и поддерживает контекст до 8192 токенов. По описанию разработчика, дополнительное обучение на собственных данных ориентировано на науку, инженерию, технические знания и структурированные рассуждения, а стиль ответов — дружелюбный и увлечённый. Модель рассчитана на общие диалоговые и аналитические сценарии, включая объяснение технических тем и помощь с задачами вроде написания сопроводительного письма. Указана лицензия Llama 3. В README разработчик помечает эту версию как устаревшую и рекомендует Shining Valiant 2 для Llama 3.1 70B; также сообщается о возможной проблеме с чтением завершающих токенов в text-generation-webui, которая может приводить к незавершённым ответам или нарушению структуры.

QuantFactory/Llama-3-8b-64k-PoSE-GGUF — квантованная версия модели winglian/Llama-3-8b-64k-PoSE, созданная с помощью llama.cpp на основе Llama 3 8B, разработанной Meta. Модель предназначена для генерации текста и кода, включая задачи обработки длинных текстов, где требуется контекст до 64 тысяч токенов. Вход и выход — только текст; заявленный язык — английский. Это авторегрессионная языковая модель на оптимизированной архитектуре Transformer с 8 млрд параметров и Grouped-Query Attention. Исходная модель использует PoSE для расширения контекста Llama с 8k до 64k токенов при rope_theta 500000. После дополнительного обучения rope_theta был установлен в 2M, что потенциально позволяет работать с контекстом свыше 64k, однако фактические пределы и качество за пределами 64k не подтверждены. Для продолжительного предварительного обучения использовались 300 млн токенов RedPajama V1 с последовательностями длиной 6–8k и rank-stabilized LoRA ранга 256. Сильной стороной модели является поддержка значительно более длинного контекста по сравнению с исходной Llama 3 8B при сравнительно небольшом размере, а GGUF-квантизация рассчитана на использование с llama.cpp. Ограничения включают преимущественно англоязычную область применения, отсутствие мультимодальности и неопределённость качества на очень больших контекстах. Модель основана на Llama 3, для которой указана коммерческая лицензия Meta Llama 3; условия использования должны соответствовать этой лицензии и Acceptable Use Policy.

Llama3 8B CPT Sahabat-AI v1 — языковая модель на архитектуре Llama, разработанная PT GoTo Gojek Tokopedia Tbk и AI Singapore в рамках экосистемы Sahabat-AI, созданной совместно с Indosat Ooredoo Hutchison. Это базовая модель с продолженным предобучением на примерно 50 млрд токенов поверх instruct-модели AI Singapore Sea-Lion v2.1. Модель содержит 7,5 млрд параметров и принимает текст, выдавая текст; она рассчитана на английский, индонезийский, яванский и сунданский языки. Контекст составляет до 8192 токенов. Модель предназначена для генерации текста и общего языкового понимания, в частности для вопросов и ответов, анализа тональности и токсичности, суммаризации, причинно-следственных рассуждений, NLI и перевода между английским и местными языками Индонезии. Карточка приводит результаты оценки на SEA HELM/BHASA и англоязычных бенчмарках, но численные таблицы в предоставленном тексте опущены. Доступна по Llama 3 Community License; перед использованием следует учитывать её условия.

adamkareem/llama-3-8b-dolphin-uncensored — дообученная разговорная модель семейства Llama 3, разработанная adamkareem на основе unsloth/llama-3-8b-Instruct-bnb-4bit. Она предназначена для генерации текста в диалоге и имеет около 7,5 млрд параметров, плотную архитектуру LlamaForCausalLM и контекст до 8192 токенов. Модель принимает текст и генерирует текст; в карточке указан английский язык и поддержка чата. Модель обучалась с использованием Unsloth и библиотеки TRL. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Название указывает на uncensored-вариант, однако README не уточняет его поведение и ограничения по содержанию.

Gradient разработала инструктивную версию Llama 3 8B, расширив её контекстное окно с 8 тысяч до 262 144 токенов. Это плотная авторегрессионная языковая модель примерно на 7,5 млрд параметров, рассчитанная на диалог и генерацию текста с обработкой длинных входных материалов. Модель подходит для ответов на вопросы по объёмным документам, анализа длинных текстов и построения диалоговых помощников. В карточке указана поддержка английского языка; специальных отраслевых сценариев не заявлено. Расширенный контекст позволяет передавать модели существенно больше текста за один запрос, однако сам по себе не гарантирует точности извлечения фактов или качества ответов. Модель опубликована в формате Safetensors и использует лицензию Llama 3. Для развёртывания следует учитывать условия этой лицензии и оценивать остаточные риски безопасности для конкретного применения.

MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.3 — диалоговая языковая модель, созданная Maziyar Panahi путём DPO-дообучения Meta-Llama-3-8B-Instruct. Модель содержит 7,5 млрд параметров, построена на архитектуре Llama и предназначена для генерации текста и ответов в формате диалога. Для работы используется шаблон запросов ChatML. Автор сообщает о расширении контекста до 32 000 токенов с помощью настройки rope_theta; в метаданных указано исходное значение 8 192 токена. Модель обучалась на датасете Intel/orca_dpo_pairs. В карточке приведены результаты оценивания на бенчмарках рассуждений и понимания текста. Поддерживаются английский язык и библиотека Transformers. Лицензия — llama3; применяются её условия использования.

VictorDCh/Llama-3-8B-Instruct-MoE-4 — разговорная языковая модель для генерации текста. README указывает базовую модель meta-llama/Meta-Llama-3-8B-Instruct и конфигурацию из восьми экспертов с выбором двух экспертов на токен; метаданные описывают архитектуру как MixtralForCausalLM типа MoE. Размер модели — 7,5 млрд параметров, контекст — 8192 токена. Модель распространяется в формате safetensors и рассчитана на использование через Transformers. Модель подходит для диалогов и генерации текста по запросу. README указывает случайный режим маршрутизации экспертов и не приводит результатов обучения или оценок качества. Разработчик в карточке не назван; лицензия в предоставленных данных не указана.

MaziyarPanahi/Llama-3-8B-Instruct-v0.4-GGUF — это набор файлов модели в формате GGUF для MaziyarPanahi/Llama-3-8B-Instruct-v0.4. Модель разработана и квантована MaziyarPanahi и предназначена для генерации текста и диалоговых сценариев на основе инструкций. Модель относится к семейству Llama 3 и имеет размер 8B параметров, что указано в её названии. Доступны варианты квантования с разрядностью от 2 до 8 бит, поэтому можно выбирать баланс между качеством, размером файлов и требованиями к памяти. Формат GGUF поддерживается llama.cpp и рядом локальных инструментов, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие решения. К сильным сторонам относятся локальный запуск, широкий выбор уровней квантования и совместимость с популярной экосистемой GGUF. README не содержит сведений о поддерживаемых языках, длине контекста, точной архитектуре, результатах оценки, системных требованиях или лицензии, поэтому эти характеристики нельзя достоверно определить по представленным данным.

Minbyul/llama3-8b-instruct-wo-kqa_golden-iter-sft-step1 — дообученная диалоговая языковая модель на архитектуре Llama, созданная на основе meta-llama/Meta-Llama-3-8B-Instruct. Она предназначена для генерации текста и ответов в формате чата. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Дообучение выполнено на наборе HuggingFaceH4/deita-10k-v0-sft; в карточке приведено значение loss 0,4835 на наборе оценки. Базовая модель описана как ориентированная на ассистентские ответы и генерацию текста на английском языке. Репозиторий содержит веса в формате safetensors. Лицензия — Llama 3.

Llama-3-8B-instruct-x-OrpoLlama-3-8B — объединённая диалоговая модель на базе Llama 3, созданная с помощью LazyMergekit. В конфигурации указаны Llama-3-8B-instruct от AI-Sweden-Models и mlabonne/OrpoLlama-3-8B; применён метод слияния dare_ties с параметрами density 0,53, weight 0,6 и маской int8. Веса сохранены в формате bfloat16. Модель предназначена для диалоговой генерации текста и ответов на запросы в чате. Она содержит около 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 8192 токенов. Метаданные указывают на дообученную базовую модель mlabonne/OrpoLlama-3-8B; описание базовой модели отмечает шаблон ChatML. Сведений о лицензии и поддерживаемых языках в предоставленных данных нет.

Magpie-Align/Llama-3-8B-Magpie-Air-MT-SFT-v0.1 — плотная авторегрессионная языковая модель семейства Llama 3, дообученная на наборе Magpie-Air-MT-300K-v0.1. Модель содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Для диалога рекомендуется использовать официальный шаблон чата Llama 3. Модель предназначена для генерации ответов на инструкции и ведения диалога. Авторы сообщают о результатах, сопоставимых с Llama-3-8B-Instruct на некоторых задачах, и приводят оценки Alpaca Eval 2 и Arena Hard. Модель опубликована в форматах PyTorch и Safetensors и распространяется по лицензии Meta Llama 3 Community License. Она унаследует ограничения базовой Llama 3 и качество данных дообучения; приведённые оценки не гарантируют одинаковую производительность на всех запросах.

Llama-3-8B-Magpie-Align-SFT-v0.1 — дообученная командой Magpie-Align языковая модель на архитектуре Llama 3 с 7,5 млрд параметров. Она обучена методом supervised fine-tuning на наборе Magpie-Pro-MT-300K-v0.1 и предназначена для генерации текста в ответ на инструкции и ведения диалога; для лучшей работы следует использовать официальный шаблон чата Llama 3. Модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. В README приведены результаты сравнений на Alpaca Eval 2 и Arena Hard; авторы сообщают о сопоставимом с Llama-3-8B-Instruct качестве на некоторых задачах. Для использования требуется соблюдать лицензию Meta Llama 3 Community License. Результаты зависят от задачи и формата диалога; универсальная эквивалентность модели Llama-3-8B-Instruct не заявлена.

OpenRLHF подготовила контрольную точку Llama 3 8B, обученную с помощью RLHF и PPO. Это плотная авторегрессионная языковая модель с 7,5 млрд параметров для генерации текста и диалоговых сценариев; веса доступны в формате safetensors. Указанный контекст составляет 8192 токена. В README приведены параметры обучения: PPO с одной эпохой, нормализацией награды и ограничением выборки до 100 тысяч примеров для экономии ресурсов GPU. Модель можно применять для генерации ответов в диалоге и продолжения текста. README не раскрывает идентификаторы базовой SFT-модели, reward model и набора промптов, поэтому определить точную базовую модель по имеющимся данным нельзя.

Dampfinchen/Llama-3-8B-Ultra-Instruct — объединённая модель на базе Llama 3 8B, созданная Dampfinchen с помощью mergekit и метода DARE TIES. В состав слияния вошли инструкционная Llama 3, модели для диалогов и ролевых сценариев, Bagel, модель с немецкоязычными возможностями и OpenBioLLM. В репозитории указаны 7,5 млрд параметров, архитектура LlamaForCausalLM, формат safetensors, библиотека Transformers и контекст до 8192 токенов. Модель предназначена для диалогов и генерации текста общего назначения, в том числе для ответов на вопросы, поддержки RAG и ролевого общения. В README заявлены усиленные знания по биологии и медицине, немецкоязычные возможности и поддержка vision, однако метаданные классифицируют модель как текстовую, поэтому мультимодальную поддержку нельзя считать подтверждённой. Модель объединяет компоненты с uncensored-ролевой настройкой и может выдавать вредные или недостоверные ответы; медицинские сведения требуют проверки. Лицензия — Llama 3 License.

Dampfinchen объединил эту плотную языковую модель методом DARE TIES с помощью mergekit. В основе лежит NousResearch/Meta-Llama-3-8B; в слияние также вошли NousResearch/Meta-Llama-3-8B-Instruct и Dampfinchen/Llama-3-8B-Ultra-Instruct. Модель содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для диалогов и генерации текста. Автор стремился сохранить возможности Llama 3 Instruct и усилить ролевые диалоги, работу с RAG, немецким языком и написание историй. Указана лицензия llama3. Автор предупреждает, что модель может выдавать вредоносные ответы.