II.6Документация и сопровождение разработки
В разделе собраны самостоятельные задачи, где AI помогает поддерживать понятную техническую документацию и ускорять передачу знаний. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
38 015 моделейjaspionjader/Kosmos-EVAA-mix-v35-8B — объединённая языковая модель, созданная jaspionjader с помощью mergekit методом SLERP из jaspionjader/test-19 и jaspionjader/test-18. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров и контекстом до 8192 токенов. Модель предназначена для генерации текста. Данные не описывают специальные предметные области, дополнительные модальности или конкретные сценарии применения. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.
Kosmos-EVAA-v8-8B — объединённая языковая модель семейства Llama, созданная jaspionjader с помощью mergekit. Веса двух предварительно обученных моделей, Kosmos-EVAA-v3-8B и Kosmos-EVAA-v7-8B, объединены методом SLERP; архитектура — плотная авторегрессионная модель LlamaForCausalLM примерно на 7,5 млрд параметров. Модель предназначена для генерации текста и диалогов. Она принимает текст и формирует текстовые ответы, а её нативный контекст составляет до 8192 токенов. В репозитории представлены веса Safetensors для библиотеки Transformers. Сведений о целевых языках, специальных областях применения и сравнительной оценке качества в доступных данных нет. Лицензия в предоставленных данных не указана. Результаты слияния могут отличаться от поведения исходных моделей; качество и ограничения конкретных сценариев требуют отдельной проверки.
Kosmos-EVAA-v9-8B — объединённая языковая модель семейства Llama, созданная jaspionjader с помощью mergekit методом SLERP из Kosmos-EVAA-v3-8B и Kosmos-EVAA-v8-8B. Модель содержит 7,5 млрд параметров и использует архитектуру LlamaForCausalLM; она предназначена для генерации текста и диалоговых сценариев. Модель принимает текст и генерирует текст. Её контекстное окно составляет до 8192 токенов. Карточка не приводит сведений о специальных предметных областях или поддерживаемых языках. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных сведениях не указана. Поскольку это объединение двух предварительно обученных моделей, фактическое поведение зависит от их исходных возможностей и качества слияния; отдельные результаты оценки или конкретные ограничения в карточке не приведены.
kstc-2-8b — слитая с помощью mergekit языковая модель, разработанная jaspionjader. Она предназначена для генерации текста и диалогового общения. Модель построена на архитектуре Llama, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель создана методом breadcrumbs на основе jaspionjader/kstc-1-8b с включением Kosmos-EVAA-Franken-Immersive-v39-8B, v40-8B и v41-8B. Карточка не описывает целевые языки и специализированные области применения. Веса опубликованы в формате safetensors; для запуска используется библиотека Transformers. Лицензия в предоставленных данных не указана.
Kunoichi-DPO-v2-7B — языковая модель семейства Mistral, представленная в виде плотной авторегрессионной архитектуры MistralForCausalLM. Репозиторий содержит веса SafeTensors; модель насчитывает 7,1 млрд параметров и рассчитана на контекст до 8192 токенов. Карточка приводит результаты тестов MT-Bench, EQ-Bench, MMLU, Logic Test, AGIEval, GPT4All, TruthfulQA и Bigbench, включая оценку 8,51 на MT-Bench и 64,94 на MMLU. Модель предназначена для генерации текста и может использоваться для диалогов, ответов на вопросы, рассуждений и других задач на основе текстового ввода. README содержит сравнительные оценки, однако не описывает конкретный процесс обучения или специальные области применения. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
Kuno-lake-slerp-7b — объединённая авторская модель на базе двух чекпойнтов SanjiWatsuki/Kunoichi-DPO-v2-7B и senseable/WestLake-7B-v2. Она создана методом slerp с помощью mergekit; конфигурация использует разные веса смешивания для слоёв self-attention и MLP. Модель семейства Mistral с плотной архитектурой и 7,1 млрд параметров принимает текст и предназначена для генерации текста и диалогового взаимодействия. Контекст — до 8192 токенов. Весовые файлы представлены в формате safetensors, исходная точность слияния — bfloat16. Лицензия в предоставленных данных не указана.
Llama-3.1-Niitorm-8B — объединённая диалоговая языковая модель на архитектуре Llama 3.1, созданная слиянием Sao10K/L3.1-8B-Niitama-v1.1 и akjindal53244/Llama-3.1-Storm-8B методом NEARSWAP с параметром t=0.0001. В README также указано включение варианта Niitama с LoRA для abliteration. Модель содержит 7,5 млрд параметров, работает с текстом и имеет контекстное окно до 131 072 токенов. Модель предназначена для диалогов и генерации текста, в том числе ответов на инструкции и вызова функций через соответствующий интерфейс. В карточке заявлена преимущественно выполненная abliteration, однако подробные оценки качества и гарантии поведения не приведены. Доступны веса в формате safetensors; README также упоминает сторонние квантизированные сборки GGUF. Лицензия в предоставленных данных не указана.
mergekit-community выпустил слитую плотную языковую модель семейства Llama с 7,5 млрд параметров. Она объединяет djuna/L3.1-gramamax и djuna/L3.1-Romes-Ninomos методом breadcrumbs_ties; базой слияния служит djuna/L3.1-gramamax. Модель предназначена для генерации текста и диалогового общения, принимает текст и выдаёт текст. Заявленная длина контекста составляет 131 072 токена. Модель доступна в формате safetensors и рассчитана на использование через Transformers. README не уточняет языковой охват, специализацию по предметным областям или результаты оценки качества. Лицензия не указана в предоставленных данных.
Lamarck-14B-v0.7-GGUF — это квантизированная версия текстовой генеративной модели Lamarck-14B-v0.7, разработанной sometimesanotion и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и локального запуска через совместимые среды, включая llama.cpp и LM Studio. Указан английский язык, а рекомендуемый формат промпта использует шаблон с ролями system, user и assistant. Модель имеет размер 14B параметров; точные сведения об архитектуре и размере контекста в README не приведены. Доступны варианты от F16 до низкобитных Q2 и IQ-квантизаций: более крупные варианты обеспечивают качество, близкое к исходной модели, а компактные снижают требования к оперативной памяти, но заметнее теряют в качестве. Для большинства сценариев рекомендуются Q4_K_M, Q5- и Q6-варианты; отдельные форматы оптимизированы для CPU и Apple Silicon. Квантизации созданы с использованием imatrix и llama.cpp. Модель распространяется по лицензии Apache-2.0; конкретные ограничения исходной модели следует проверять отдельно.
LFM2-24B-A2B-MLX-6bit — это 6-битно-квантизированная версия модели LFM2-24B-A2B, разработанной LiquidAI. Данная версия подготовлена командой LM Studio с использованием mlx_lm и оптимизирована для запуска на устройствах Apple Silicon. Модель предназначена для генерации текста и может применяться в сценариях локального запуска языковых моделей, включая диалоговые приложения, подготовку и преобразование текстов, а также другие задачи text generation. В README указана поддержка английского, арабского, китайского, французского, немецкого, японского, корейского, испанского и португальского языков. Обозначение модели содержит 24B-A2B, однако подробности архитектуры, контекстного окна и распределения параметров не приведены. Ключевое преимущество версии — уменьшенный объём хранения и вычислительных ресурсов благодаря 6-битному квантованию, а также оптимизация под экосистему Apple Silicon через MLX. Ограничения включают возможную потерю качества по сравнению с полноформатной моделью из-за квантования и зависимость от совместимого оборудования и программного стека MLX. Модель распространяется по лицензии lfm1.0; в карточке также указано общее обозначение лицензии other.
LFM2-2.6B-Uncensored-X64 — разговорная версия языковой модели LiquidAI/LFM2-2.6B, опубликованная Justbackup. Это плотная авторегрессионная модель семейства LFM2 с примерно 2,4 млрд параметров, доступная в формате safetensors и рассчитанная на контекст до 128 000 токенов. Модель предназначена для генерации текста и диалогов; карточка называет её uncensored-версией базовой модели и приводит результаты нескольких тестов на общие знания и рассуждение. Её можно использовать для ответов на вопросы, диалоговых ассистентов и работы с длинными текстовыми запросами. README показывает формат чата, совместимый с использованием в Transformers. В карточке указана лицензия Apache-2.0. Модель не следует считать проверенной для задач с высокими требованиями к точности: опубликованные тесты ограничены несколькими бенчмарками, а результаты могут зависеть от точности вычислений и конфигурации запуска.
OpenIntelligenceNet/LFM2-2.6B_ZERO_Refusal — дообученная модель семейства LFM2 от OpenIntelligenceNet на базе huihui-ai/Huihui-LFM2-2.6B-Exp-abliterated. Она предназначена для генерации текста и диалогов; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 2,4 млрд параметров, принимает текст и поддерживает контекст до 128 000 токенов. В карточке указано, что обучение проводилось с Unsloth и библиотекой TRL от Hugging Face. Модель рассчитана на англоязычные диалоги и генерацию текста. Базовая модель описана как экспериментальная LFM2 с удалёнными защитными отказами; это важно учитывать при использовании, поскольку поведение в ответ на потенциально опасные запросы может отличаться от моделей с такими отказами. Лицензия — Apache-2.0.
LFM2.5-1.2B-Thinking-MLX-bf16 — версия модели рассуждений Liquid AI, подготовленная командой LM Studio Community на базе LFM2.5-1.2B-Thinking. Это плотная авторегрессионная модель семейства LFM2 с примерно 1,5 млрд параметров, представленная в исходной точности bfloat16 в формате safetensors и адаптированная для запуска на Apple Silicon через MLX. Модель предназначена для генерации текста в диалогах, задач рассуждения и агентных сценариев; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает контекст до 128 000 токенов. В карточке указаны английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Компактный размер и оптимизация MLX подходят для локального запуска на устройствах Apple Silicon. Репозиторий указывает лицензию «other», поэтому конкретные условия использования следует сверять с лицензией исходной модели.
mlx-community/LFM2.5-2.6B-bf16 — конверсия модели LiquidAI/LFM2.5-2.6B в формат MLX, выполненная сообществом mlx-community. Это компактная плотная языковая модель семейства LFM2.5 на 2,6 млрд параметров для генерации текста и диалогового общения; она рассчитана на локальный запуск на устройствах Apple с MLX. Модель поддерживает 17 языков, включая русский, и имеет контекстное окно до 128 000 токенов. Модель подходит для диалоговых помощников, генерации текста и длинноконтекстных сценариев. В метаданных базовой модели также отмечены вызов инструментов, RAG и агентные задачи. Репозиторий содержит веса safetensors в формате MLX. Лицензия указана как other; README рекомендует обратиться к карточке исходной модели за дополнительными сведениями о модели.
KoarAI разработала LFM2.5-350M-Thinking-0003 как дообученную компактную гибридную языковую модель на основе LiquidAI/LFM2.5-350M. Модель с архитектурой LFM2 и примерно 443,4 млн параметров предназначена для генерации текста и диалогов с пошаговыми рассуждениями: она формирует внутренние шаги решения, а затем выдаёт итоговый ответ. Модель дообучена на примерах математических и алгоритмических рассуждений, программирования, русскоязычных диалогов, многошаговых ответов и вопросов из STEM, бизнеса и права. Заявлены контекст до 128 000 токенов и поддержка английского и русского языков. Модель рассчитана на компактное развертывание и сценарии, где нужны ответы с инструкциями, рассуждениями или вызовом инструментов; качество рассуждений и кодогенерации на малой модели может быть ограничено. Репозиторий содержит веса в формате safetensors. Указана лицензия Apache-2.0. Для локального запуска через llama.cpp и совместимые приложения автор отдельно указывает квантованные версии GGUF в другом репозитории.
AtomicChat/LFM2.5-8B-A1B-GGUF — это текстовая генеративная модель в формате GGUF, созданная Atomic Chat на основе LiquidAI/LFM2.5-8B-A1B. Репозиторий содержит самостоятельно выполненные квантования исходных весов с использованием importance matrix, рассчитанной для каждого тензора, поэтому модель предназначена для локального и полностью офлайн-использования через llama.cpp, MLX, vLLM, SGLang и совместимые приложения. Модель рассчитана на роль персонального помощника на устройствах с ограниченными ресурсами: она поддерживает диалог, сложные инструкции, последовательные вызовы инструментов и агентские сценарии. Это текстовая Mixture-of-Experts-модель с 8,5 млрд параметров, 24 слоями и 32 экспертами, из которых для обработки выбираются 4; архитектура также включает 32 attention heads и 8 KV heads. Заявленная длина контекста — до 128 000 токенов, размер словаря — 128 000 токенов. Поддерживаемая модальность — текст; сведения о языках в README не указаны. Сильные стороны модели — высокая скорость инференса на CPU и GPU, широкий выбор квантований от Q2_K до Q8_0 и хорошее сохранение качества при использовании importance matrix. В качестве сбалансированного варианта рекомендуется Q4_K_M, а Q6_K и Q8_0 ориентированы на более высокую точность. К ограничениям относятся неизбежная потеря качества в низкобитных вариантах, требования к памяти, зависящие от выбранного квантования, и необходимость применять chat template LFM2.5 с параметром --jinja; без него возможны некорректно сформированные диалоговые ходы. Лицензия обозначена как other, подробные условия находятся в файле LICENSE.
Dohyeon1/LFM2-M-SMoE-ngroups24 — генеративная языковая модель, опубликованная на Hugging Face. По метаданным она предназначена для задачи text-generation, поддерживает библиотеку Transformers и имеет теги LFM2 MoE и conversational, указывающие на применение в диалоговых сценариях. В README сведения о разработчике, обучении и назначении модели не заполнены. Модель содержит около 1,4 млрд параметров и рассчитана на контекст до 128 000 токенов. Её можно использовать для генерации продолжений текста, построения диалоговых интерфейсов, подготовки черновиков и других задач, где требуется авторегрессионная генерация текста. Лицензия, поддерживаемые естественные языки, результаты оценки, данные обучения и конкретные ограничения в доступных материалах не описаны. Перед использованием в критически важных сценариях необходимы собственные проверки качества, безопасности и соответствия целевому языку и домену.
EXAONE-Deep-32B-GGUF — это квантованные версии языковой модели EXAONE-Deep-32B, разработанной LGAI-EXAONE и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. Модель ориентирована на текстовые сценарии, включая диалоговое взаимодействие, написание и преобразование текста, программирование и другие задачи генерации на естественном языке. В README указаны английский и корейский языки. Базовый размер модели — 32B параметров; архитектура и размер контекстного окна не указаны. Доступны варианты от BF16 до квантований Q8_0, Q6, Q5, Q4, Q3 и IQ, размер файлов составляет примерно от 13 до 64 ГБ. Главное преимущество — возможность локального запуска при выборе подходящего уровня квантования: высокоточные варианты Q6 и Q5 обеспечивают качество, близкое к исходной модели, а более компактные Q4 и Q3 снижают требования к памяти. Ограничения связаны с существенными аппаратными требованиями 32B-модели, возможным снижением качества при сильном квантовании и отсутствием информации о мультимодальности, контекстном окне и результатах оценивания. Указана лицензия EXAONE; подробные условия следует уточнять в файле LICENSE.
Sakalti выпустил модель light-3B-beta — объединение языковых моделей на базе Qwen2.5-3B, созданное с помощью mergekit и метода TIES. В объединение включена Qwen/Qwen2.5-3B-Instruct; модель предназначена для генерации текста и диалогового общения, включая сценарии с интерфейсом вызова инструментов. Модель имеет плотную архитектуру Qwen2ForCausalLM и 3,1 млрд параметров. Она принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Веса опубликованы в формате Safetensors, указанная лицензия — other. Карточка не приводит сравнительных оценок качества, перечня поддерживаемых языков или подробностей о поведении при вызове инструментов. Перед применением следует проверить качество на целевых задачах и изучить условия лицензии.
Ling 3.1 Flash — гибридная reasoning-модель архитектуры mixture-of-experts от inclusionAI, с 25 млрд активных параметров из 560 млрд общих. Она предназначена для генерации текста и задач, требующих рассуждений. Данных о поддерживаемых языках, длине контекста и лицензии в предоставленных источниках нет.
LiveMem-RL — языковая модель для генерации текста и диалогов, разработанная chen-l. Это чекпойнт LiveMem, обученный методом GRPO на основе chen-l/LiveMem-SFT: в каждом слое декодера выходы пути внимания Qwen3 и рекуррентного пути памяти Gated DeltaNet 2 (GDN2) складываются. Основной путь Qwen3 во время RL-обучения оставался замороженным, а путь памяти дообучался. Модель содержит 3,7 млрд параметров и рассчитана на контекст до 262 144 токенов. Реализация использует custom model code и Triton-ядра GDN2, поэтому для инференса требуется среда CUDA; фактически доступная длина контекста зависит от видеопамяти и backend. Репозиторий содержит веса safetensors, библиотека — Transformers. Лицензия Apache-2.0.
Fischerboot/ll3-test-5 — разговорная языковая модель, созданная слиянием предобученных моделей с помощью mergekit и метода SLERP. В конфигурации указана Fischerboot/ll3-test-4; метаданные также связывают её с этой моделью как с базой для дообучения, поэтому происхождение представленного чекпойнта описывается как слияние с использованием этой базы. Модель построена на архитектуре Llama, имеет около 6,2 млрд параметров и контекстное окно 8192 токена. Она принимает текст и генерирует текст; в метаданных заявлена возможность диалогового использования. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Карточка не сообщает поддерживаемые естественные языки и лицензию. Поэтому языки и условия лицензирования здесь не уточняются; перед применением следует проверить лицензию базовой модели и совместимость условий слияния.
openaccess-ai-collective/llama-13b-alpaca-wizard-vicuna — языковая модель OpenAccess AI Collective, дообученная для генерации текста в формате инструкций на основе Llama с использованием наборов Alpaca-GPT4 и WizardLM. Модель имеет плотную архитектуру LlamaForCausalLM и 12,9 млрд параметров; её контекст составляет 2048 токенов. Репозиторий содержит веса PyTorch и предназначен для запуска через Transformers. Модель подходит для ответов на инструкции и вопросы, диалоговой генерации и создания текстов на английском языке. README описывает этапы дообучения на Alpaca-GPT4 и WizardLM, а также упоминает Vicuna как планируемый этап. Лицензия репозитория — Apache-2.0. Карточка не приводит оценок качества или подробных ограничений применения; короткий контекст и возраст модели следует учитывать при выборе для современных задач.
LLaMA-2-7B-32K-Instruct_GGUF — это набор файлов модели в формате GGUF, подготовленный пользователем rozek на основе Llama-2-7B-32K-Instruct от Together Computer, Inc., которая, в свою очередь, создана на базе Meta AI LLaMA-2-7B. Исходная модель дообучена для работы с контекстом до 32 000 токенов с использованием Position Interpolation и Rotary Position Embeddings (RoPE). Модель предназначена для генерации текста и выполнения инструкций на английском языке, включая сценарии локального запуска через llama.cpp. Репозиторий содержит варианты с различной степенью квантования: Q2_K, Q3_K, Q4, Q5, Q6_K, Q8_0, а также неквантованный F16. Квантованные версии снижают требования к памяти и позволяют запускать модель локально, но могут уступать F16 по точности. Несмотря на поддержку контекста до 32K, использование максимальной длины требует значительного объёма RAM; рекомендуется выбирать минимальный необходимый размер контекста. Модель текстовая и имеет около 7 миллиардов параметров. В README указана лицензия llama2.
Seungyoun/llama-2-7b-alpaca-gpt4 — языковая модель семейства LLaMA 2, дообученная разработчиком на ответной части примеров из набора Alpaca-GPT-4. Для обучения применялся LoRA, веса адаптера объединены с базовой моделью; в репозитории опубликованы веса в формате safetensors. Модель содержит 6,6 млрд параметров и рассчитана на контекст до 4096 токенов. Модель предназначена для генерации текста в ответ на инструкции и запросы, в частности для диалоговых сценариев и ответов на вопросы на английском языке. Указана лицензия MIT. Карточка не сообщает о специализированных областях применения или иных ограничениях качества.
TheBloke/Llama-2-7B-AWQ — это 4-битная AWQ-квантизированная версия языковой модели Llama 2 7B, разработанной Meta. Модель предназначена для генерации текста и поддерживает английский язык. Квантизацию выполнил TheBloke на основе оригинальной модели meta-llama/Llama-2-7b-hf. Модель содержит около 7 млрд параметров, использует архитектуру Llama и рассчитана на работу с последовательностями длиной до 4096 токенов. Формат AWQ оптимизирован для эффективного GPU-инференса; опубликованная версия использует параметры 4-bit, group size 128 и занимает около 3,89 ГБ. Модель может применяться в задачах генерации текста и развёртываться для многопользовательского инференса с помощью vLLM или AutoAWQ. Ключевые преимущества — существенно меньшие требования к памяти и возможность использовать более доступные GPU по сравнению с полноразмерной моделью. AWQ также поддерживает высокопроизводительный инференс и непрерывную пакетную обработку в vLLM, однако в README отмечено, что общая пропускная способность может быть ниже, чем у неквантизированной модели. Модель является текстовой и не предназначена для обработки изображений или других модальностей. Лицензия указана как llama2.
TheTravellingEngineer/llama2-7b-chat-hf-dpo — чат-модель на архитектуре Llama 2, созданная дообучением Meta Llama 2 7B Chat с помощью DPO на датасете comparison_gpt4. Репозиторий содержит объединённую модель в формате FP16; число параметров — 6,6 млрд, длина контекста — 4096 токенов. Модель предназначена для генерации ответов в диалоге и других задач текстовой генерации. Её можно использовать в чат-ботах и для следования инструкциям; формат запроса похож на применяемый в Guanaco. В карточке указан английский язык. Модель распространяется по лицензии Llama 2 и подчиняется ограничениям использования исходной модели. Автор не предоставляет гарантий качества или пригодности для конкретной цели.
oh-yeontaek/llama-2-7B-LoRA-assemble — языковая модель, опубликованная пользователем oh-yeontaek на Hugging Face. Она относится к семейству Llama и предназначена для генерации текста; в карточке Hugging Face указаны библиотеки Transformers и PyTorch, а также поддержка text-generation-inference. Модель содержит около 6,6 млрд параметров и поддерживает контекст до 4096 токенов. Она подходит для локальной или серверной генерации продолжений текста, ответов и других текстовых последовательностей. Доступные источники не подтверждают конкретную специализацию, набор естественных языков, мультимодальность или лицензионные условия именно исходного репозитория. К ограничениям относятся контекст длиной до 4096 токенов и отсутствие подтверждённой узкой предметной специализации; качество и безопасность ответов зависят от запроса и настроек генерации.
hiyouga/Llama-2-Chinese-13b-chat — двуязычная инструкционно настроенная LoRA-модель на основе семейства Llama 2, разработанная с использованием LLaMA-Factory. Модель предназначена для диалогов с ассистентом и выполнения инструкций на китайском и английском языках; примеры показывают ответы на вопросы, объяснение понятий, перевод и помощь с кодом. Модель содержит 12,9 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текстовых ответов. Контекст составляет 4096 токенов. Для работы применяются веса PyTorch и библиотека Transformers; для запуска README указывает LLaMA-Factory. Модель дообучена на наборах Alpaca, Alpaca-ZH и OpenAssistant. Лицензия указана как llama2. README не приводит количественных оценок качества или подробных ограничений; ответы могут быть неточными, а поддержка языков и навыков за пределами китайского и английского не подтверждена.
kechengcode/Llama-3.1-5B-Instruct-18Layers — компактная текстовая генеративная модель на архитектуре Llama, созданная методом passthrough merge из слоёв Meta Llama 3.1 8B Instruct с помощью mergekit. В репозитории указаны 4,5 млрд параметров, формат safetensors и библиотека Transformers; метаданные указывают контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста и интерфейсов вызова инструментов. Её можно использовать для ответов на вопросы, черновиков текстов и подключения языковой модели к приложениям с инструментами. Карточка не описывает отдельную специализацию по предметной области или языкам; исходная модель — Llama 3.1 8B Instruct. Лицензия в предоставленных данных не указана. Сокращённый набор слоёв может влиять на качество и поведение относительно исходной модели; отдельные результаты оценки не приведены.