II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейYamshadowStrangemerges_32_Experiment28Yam — объединённая модель MaziyarPanahi на архитектуре Mistral, созданная на основе automerger/YamshadowStrangemerges_32-7B и automerger/Experiment28Yam-7B. Она предназначена для генерации текста и поддерживает контекст длиной до 32 768 токенов; размер модели — 7,1 млрд параметров. Модель можно применять для генерации продолжений, ответов и другого текста в сценариях, где требуется работа с длинным контекстом. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. В карточке не приведены сведения о языковой специализации или оценках качества.
Zamba2-1.2B-Instruct-v2 — диалоговая языковая модель Zyphra для генерации текста и ответов на инструкции. Она дообучена на базе Zyphra/Zamba2-1.2B с помощью SFT и DPO на наборах инструкций, диалогов, рассуждений, математики и предпочтений. Модель использует гибридную архитектуру: слои Mamba2 чередуются с общими attention-блоками Transformer; в них применяются LoRA-проекции. В метаданных указаны 2,6 млрд параметров, контекст до 4096 токенов и формат safetensors. Карточка отмечает низкую задержку генерации и меньший расход памяти по сравнению с сопоставимыми трансформерными моделями, а также приводит результаты тестов следования инструкциям и рассуждений. Модель предназначена для диалогов, выполнения инструкций, генерации текста и простых задач на рассуждение и математику. Для оптимизированного запуска рекомендуются ядра Mamba2; без них карточка предупреждает о более высокой задержке и расходе памяти. Лицензия — Apache-2.0.
Agente-Llama-3.1-Asistant-16bit-v2-GGUF — это набор файлов модели в формате GGUF, созданный пользователем mradermacher на основе Agnuxo/Agente-Llama-3.1-Asistant-16bit-v2. Модель предназначена для локального запуска задач генерации текста, включая сценарии автономных агентов, локального ИИ и научных исследований. Указаны английский и испанский языки. Библиотека Transformers и исходная модель обозначены в метаданных, однако подробности архитектуры и точный размер базовой модели не приведены. Репозиторий содержит варианты квантования от Q2_K размером около 3,3 ГБ до f16 размером около 16,2 ГБ. Доступны форматы Q2_K, Q3, Q4, Q5, Q6, Q8_0 и IQ, причём Q4_K_S и Q4_K_M рекомендованы как быстрые варианты, Q6_K заявлен как вариант с очень хорошим качеством, а Q8_0 — как быстрый вариант с наилучшим качеством среди перечисленных. Версия f16 имеет точность 16 бит и может быть избыточной по требованиям к ресурсам. Мультимодальность, размер контекста, аппаратные требования и результаты оценивания не указаны. Преимущество модели — наличие множества уровней квантования для выбора баланса между качеством, скоростью и объёмом памяти, что подходит для локального использования. Ограничения связаны с отсутствием подробных сведений о базовой архитектуре, обучении, качестве в прикладных задачах и поддерживаемых сценариях агента; характеристики также зависят от выбранного варианта квантования. Распространение указано по лицензии Apache-2.0.
AlloyingotneoyExperiment24-7B — автоматически объединённая Maxime Labonne методом SLERP плотная языковая модель семейства Mistral с 7,1 млрд параметров. В слиянии участвуют nlpguy/AlloyIngotNeoY и yam-peleg/Experiment24-7B; конфигурация задаёт разное смешивание слоёв self-attention и MLP, а результат сохранён в формате safetensors с точностью bfloat16. Модель предназначена для генерации текста и может применяться в сценариях, поддерживаемых исходными моделями. Контекстное окно — до 32 768 токенов. В карточке нет сведений о целевых языках или специализированной области применения, поэтому её следует рассматривать как модель общего назначения. Лицензия — Apache-2.0.
AlphaMonarch-daser — диалоговая модель, созданная abideen на основе mlabonne/NeuralMonarch-7B. Это дообученная методом DPO модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста, общения и следования инструкциям. Для обучения использован набор предпочтений argilla/OpenHermes2.5-dpo-binarized-alpha; автор сообщает о 1080 шагах обучения и сочетании методов LaserQLoRA и DoRA с обучением половины проекций. Модель принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В метаданных указан английский язык. Автор приводит сравнения с родственными вариантами на YALL leaderboard и OpenLLM bench, где результаты различаются в зависимости от бенчмарка. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
Это версия Command A+ в формате GGUF BF16, опубликованная DevQuasar на основе CohereLabs/command-a-plus-05-2026-bf16. Модель предназначена для генерации текста и диалогового общения; метаданные каталога также характеризуют её как модель для чата. Базовая Command A+ описана как многоязычная мультимодальная модель Cohere для диалогов, рассуждений и агентных задач с текстом, изображениями и вызовом инструментов. Однако карточка этой версии не подтверждает, что её сборка GGUF сохраняет работу с изображениями или вызов инструментов, поэтому эти возможности нельзя считать гарантированными. Репозиторий содержит вариант GGUF в точности BF16. README называет его квантованной версией, но метаданные указывают BF16, что само по себе не подтверждает уменьшенную разрядность. Сведения о лицензии и ограничениях использования в предоставленных данных отсутствуют.
cuckoo-starling-32k-7B — объединённая языковая чат-модель на архитектуре Mistral, созданная grimjim методом SLERP с помощью mergekit из grimjim/Mistral-Starling-merge-trial1-7B и grimjim/kukulemon-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых ответов. В карточке указана поддержка шаблонов ChatML и Alpaca; автор сообщает о неформальном тестировании с настройками temperature 0,9–1,0 и minP 0,02. В README обсуждается ручная настройка RoPE theta до 100K и отмечается, что при тестировании связность повествования иногда ухудшалась с RoPE theta 1M. Модель доступна в формате safetensors, использует библиотеку Transformers и распространяется по лицензии CC BY-NC 4.0, ограничивающей коммерческое использование. README приводит результаты нескольких оценок, но не описывает полный протокол тестирования, поэтому они не гарантируют качество на конкретных задачах.
Moritz Laurer дообучил DeBERTa-v3-base от Microsoft на 763 913 парах «посылка — гипотеза» из MultiNLI, Fever-NLI и Adversarial-NLI (ANLI). Это плотная модель DeBERTa-v2 для классификации последовательностей с 211,6 млн параметров и контекстом до 512 токенов; её основное применение — классификация текста без предварительно заданного набора классов, а также задачи вывода на естественном языке (NLI). Модель оценивает, следует ли гипотеза из текста, противоречит ему или не связана с ним, что позволяет сопоставлять текст с предложенными метками и ранжировать их. В карточке приведены результаты оценки на тестовых наборах MultiNLI и ANLI и на dev-наборе Fever-NLI; также заявлено преимущество на бенчмарке ANLI перед почти всеми крупными моделями. Поддерживается английский язык. Модель принимает текст и возвращает метки и оценки классов. Ограничения связаны с возможными смещениями, унаследованными от обучающих наборов. Карточка также отмечает, что для работы с DeBERTa-v3 может потребоваться Transformers версии 4.13 или новее и установленный SentencePiece. Лицензия — MIT.
Discord-Micae-Hermes-3-3B-i1-GGUF — квантизированная GGUF-версия текстовой causal language model Discord-Micae-Hermes-3-3B. Базовую модель разработал mookiezi, а квантизацию выполнил mradermacher. Модель основана на архитектуре семейства Llama 3, содержит около 3 млрд параметров и предназначена для генерации текста, инструктивного взаимодействия и диалоговых сценариев, включая использование в чат-ботах и conversational AI. Обучение или дообучение связано с набором данных mookiezi/Discord-OpenMicae и применением merged LoRA. Модель поддерживает английский язык и работает с текстовой модальностью; сведения о размере контекстного окна в README не указаны. Репозиторий предоставляет множество вариантов GGUF-квантизации с разным компромиссом между размером, скоростью и качеством, включая imatrix-кванты. Это позволяет запускать модель на более ограниченных ресурсах, однако низкобитные варианты могут заметно снижать качество генерации. Рекомендуемые в README варианты — i1-Q4_K_M и i1-Q4_K_S; конкретные требования к оборудованию и дополнительные ограничения не указаны. Лицензия обозначена как llama3.
bartowski/Donnager-70B-v1-GGUF — это набор GGUF-квантизаций 70-миллиардной текстовой модели Donnager-70B-v1, разработанной TheDrummer и сконвертированной и квантованной bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска, в том числе через LM Studio. Она поддерживает формат приглашений <s>[INST] {prompt} [/INST] и не поддерживает системный промпт. Доступны варианты квантования от Q8_0 до IQ1_M с размером файлов примерно от 15,94 до 73,29 ГБ. В README не указаны точная архитектура исходной модели, контекстное окно, поддерживаемые языки и модальности, поэтому эти характеристики нельзя определить по предоставленным данным. Более качественными считаются Q8_0, Q6_K, Q5_K_M и Q4_K_M; низкоразрядные варианты требуют меньше памяти, но заметно уступают в качестве. Некоторые варианты используют Q8_0 для embedding- и output-весов. Лицензия указана как other, без дополнительных условий в README. Для работы необходим совместимый рантайм GGUF, например llama.cpp или LM Studio; варианты размером более 50 ГБ могут быть разделены на несколько файлов.
ylalain/ECE-PRYMMAL-YL-1B-SLERP-V8 — языковая модель для генерации текста, опубликованная на Hugging Face в формате safetensors и предназначенная для использования с библиотекой Transformers. Она построена на плотной архитектуре Qwen2 с примерно 1,4 млрд параметров и контекстом до 131 072 токенов. Модель создана слиянием Youlln/ECE-PRYMMAL-YL-1B-SLERP-V1; метаданные также указывают возможности чата и интерфейс вызова инструментов. Модель подходит для диалоговой генерации и других задач продолжения текста. README содержит лишь автоматически созданное описание и фрагмент результатов Open LLM Leaderboard, поэтому конкретные сильные стороны, обучение, поддерживаемые языки и рекомендации по применению установить по карточке нельзя. Лицензия — Apache-2.0.
Eclectic-Maid-10B-v2-1 — объединённая языковая модель, созданная автором репозитория с помощью mergekit. Это плотная авторегрессионная модель семейства Mistral на 10,4 млрд параметров с архитектурой MistralForCausalLM, предназначенная для генерации текста. В README указан метод объединения passthrough и исходная модель Eclectic-Maid-v2; веса представлены в формате safetensors, а конфигурация слияния использует float16. Модель можно применять для генерации продолжений и ответов в текстовых сценариях. Заявленная длина контекста составляет 32 768 токенов. В карточке нет сведений о конкретных языках, специализированных областях или ограничениях качества. В метаданных присутствует пометка not-for-all-audiences, поэтому модель может быть не подходящей для всех аудиторий. Условия лицензии в предоставленных данных не приведены.
Experiment26Yamshadow_NeuralExperiment26 — объединённая модель на архитектуре Mistral, созданная из automerger/Experiment26Yamshadow-7B и automerger/NeuralExperiment26-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста; поддерживает контекст до 32 768 токенов. Модель подходит для продолжения текста и генерации ответов по текстовым запросам. Она распространяется в формате safetensors по лицензии Apache 2.0. Карточка не описывает специальные возможности, целевые языки или ограничения качества.
Gemma 4 E2B CoreAI — текстовая decoder-модель, экспортированная пользователем mlboydaisuke из базовой модели google/gemma-4-E2B-it для запуска через Apple Core AI на устройствах с iOS 27 и macOS 27. Модель предназначена для локальной генерации текста, диалоговых сценариев, суммаризации и офлайн-ассистентов; интеграция возможна через CoreAIKit и Swift. Поддерживаются GPU и Neural Engine Apple, включая iPhone и Mac, без обязательной отправки данных на сервер. Опубликованы квантизированные варианты с int4 и int8, включая конфигурации с пользовательскими Metal-ядрами для GPU и отдельные варианты для Neural Engine. Размер загружаемого комплекта составляет около 4,9 ГБ, а заявленная скорость декодирования достигает 22 токенов/с на iPhone 17 Pro и 56,6–59 токенов/с на M4 Max в Release-сборке; показатели зависят от платформы и конфигурации. В README не указаны языки, размер контекстного окна и точные архитектурные параметры. Модель рассчитана на экосистему Apple, требует iOS 27 или macOS 27 и может нуждаться в повышенном лимите памяти на iPhone. Лицензия указана как Apache-2.0, при этом для Gemma приведена отдельная ссылка на условия Google.
MaziyarPanahi/gemma-7b-it-GGUF — это набор файлов модели в формате GGUF для Gemma 7B Instruction Tuned, разработанной Google. Автором исходной модели указана Google, а конвертацию и квантованные варианты подготовил MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев. Модель имеет около 7 миллиардов параметров и поставляется в нескольких вариантах квантования: от 2 до 8 бит, включая форматы Q2_K, Q3_K, Q4_K, Q5_K и Q6_K. GGUF ориентирован на локальный запуск через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Квантование позволяет выбирать компромисс между размером файла, требованиями к памяти и качеством генерации. Сильными сторонами являются наличие разных уровней квантования и широкая совместимость с инструментами локального вывода. В README не указаны поддерживаемые языки, размер контекстного окна, точные характеристики архитектуры, результаты оценки качества или конкретные ограничения модели. Лицензия обозначена как other, но её условия в предоставленных данных не раскрыты.
rafmacalaba/gliner_agents_v3 — дообученная модель GLiNER Large v2.1 для извлечения упоминаний источников данных из текста документов. Она выделяет фрагменты трёх типов: именованные источники данных, описания источников без названия и общие упоминания данных. Модель подходит для разметки документных корпусов, поиска источников данных и последующего анализа извлечённых сущностей. Модель дообучена на датасете rafmacalaba/datause-agents-v3 в течение пяти эпох с точностью bf16. На отложенной выборке из 2 108 фрагментов при пороге 0,60 указаны precision 0,9204 и recall 0,7559; результаты зависят от типа метки: извлечение именованных источников заметно надёжнее, чем описательных упоминаний, а класс общих упоминаний представлен в оценке малым числом примеров. По README это англоязычные документные данные; длина контекста и размер модели не указаны в доступных сведениях. Модель распространяется по лицензии Apache-2.0.
GPT4All-13b-snoozy — языковая модель Nomic AI для генерации текста в формате чат-бота. Это дообученная версия LLaMA 13B с 12,9 млрд параметров, обученная на корпусе примеров взаимодействий с ассистентом из набора nomic-ai/gpt4all-j-prompt-generations, revision v1.3-groovy. Модель предназначена для диалогов, решения текстовых задач, помощи с кодом и создания стихов, песен и рассказов. Она принимает текст и генерирует текст на английском языке; максимальная длина контекста — 2048 токенов. Для использования указана лицензия GPL.
Gryphe_Tiamat-24B-Magistral-GGUF — это набор GGUF-квантизаций модели Tiamat-24B-Magistral, разработанной Gryphe и опубликованной в квантизированном виде пользователем bartowski. Модель предназначена для генерации текста, включая инструкционные сценарии и roleplay. Указан английский язык; поддерживаются локальный запуск через llama.cpp, LM Studio и другие совместимые проекты. Модель содержит 24 миллиарда параметров. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством и требованиями к памяти. Квантизация выполнена с использованием imatrix на базе llama.cpp; для взаимодействия рекомендуется формат промпта с секциями SYSTEM_PROMPT и INST. Контекстное окно, точная архитектура и мультимодальные возможности в предоставленных данных не указаны. Сильной стороной набора является широкий выбор размеров файлов и форматов, включая варианты, ориентированные на высокое качество или ограниченный объём оперативной памяти. Более низкие уровни квантизации могут заметно снижать качество, а некоторые варианты обозначены как устаревшие или нерекомендуемые. Лицензия модели — Apache-2.0.
Ninjasin/guard-ai-apex-1.5b — дообученная Ninjasin языковая модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и 1,5 млрд параметров. Базовая модель — unsloth/qwen2.5-coder-1.5b-instruct-bnb-4bit; при обучении использовались Unsloth и библиотека TRL. Модель предназначена для генерации текста в диалоговом формате и поддерживает интерфейс вызова инструментов. Модель принимает текст и выдаёт текст. В метаданных указан английский язык и контекст длиной до 32 768 токенов. Весы опубликованы в формате safetensors, лицензия — Apache-2.0. Карточка не уточняет специализацию названия Guard AI Apex, поэтому её защитные или охранные функции нельзя считать подтверждёнными.
MotherEarth/Hermes-Storm-lorablated — объединённая языковая модель на архитектуре Llama, созданная методом SLERP с помощью mergekit из akjindal53244/Llama-3.1-Storm-8B и mlabonne/Hermes-3-Llama-3.1-8B-lorablated. Модель содержит 7,5 млрд параметров, предназначена для генерации текста и диалогового взаимодействия; метаданные указывают контекст длиной до 131 072 токенов. Модель подходит для диалоговых сценариев и генерации ответов на текстовые запросы. В карточке не описаны отдельные специализированные области применения или подтверждённые дополнительные возможности. Файлы представлены в формате safetensors, библиотека — Transformers. Сведения о лицензии в предоставленных данных отсутствуют.
HQwen-3B-00-fp16 — чат-модель для генерации текста, разработанная 1024m на основе unsloth/Qwen2.5-3B-Instruct. Модель дообучена с использованием Unsloth и библиотеки TRL; её архитектура — плотная Qwen2, размер — 3,1 млрд параметров, формат весов — safetensors, контекст — до 32 768 токенов. Модель предназначена для диалогов, ответов на запросы и создания текста, включая структурированные ответы и сценарии с интерфейсом вызова инструментов. В карточке указана поддержка английского языка. Модель распространяется по лицензии Apache-2.0. Описание не приводит отдельных результатов оценки качества или специализированных областей применения.
Ignis-7B-DPO-Laser — англоязычная разговорная языковая модель, опубликованная NeuralNovel при участии сообщества ConvexAI. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, рассчитанная на генерацию текста и диалоговое применение; длина контекста составляет 32 768 токенов. README указывает, что Ignis-7B-DPO обучена на наборе NeuralNovel/Neural-DPO с использованием GPU A100 80 ГБ. Модель распространяется в формате safetensors по лицензии Apache-2.0. Данных о специальных ограничениях или профиле безопасности карточка не приводит.
DevQuasar/inclusionAI.Ling-1T-GGUF — квантованная версия модели inclusionAI/Ling-1T, опубликованная в формате GGUF. Разработчиком исходной модели указана организация inclusionAI, а данная версия подготовлена в рамках проекта DevQuasar. Модель предназначена для генерации текста и может использоваться в сценариях, где требуется локальный или более ресурсоэффективный запуск языковой модели. Квантование обычно снижает требования к памяти по сравнению с исходной версией, однако README не содержит сведений о конкретном методе квантования, поддерживаемых языках, размере контекста, архитектуре, фактическом размере модели, модальностях, производительности и ограничениях качества. Лицензия в предоставленных данных не указана.
Ling-flash-2.0-GGUF — это квантизированная версия языковой модели Ling-flash-2.0, разработанной inclusionAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в локальных приложениях, поддерживающих формат GGUF, включая LM Studio, llama.cpp и проекты на его основе. Доступно несколько вариантов квантизации от Q8_0 до Q2_K, включая форматы Q6_K, Q5_K_M и Q4_K_M. Размер файлов составляет примерно от 36 до 109 ГБ; варианты с более высокой точностью обычно обеспечивают лучшее качество, но требуют больше памяти. Для большинства сценариев автор рекомендует Q4_K_M, Q5_K_M, Q5_K_S и Q6_K, тогда как младшие варианты экономят память ценой заметного снижения качества. Некоторые файлы разделены на части. README не содержит сведений об архитектуре исходной модели, числе параметров, поддерживаемых языках, длине контекста, дополнительных модальностях или лицензии. Поэтому эти характеристики нельзя достоверно определить по предоставленным данным. Модель следует использовать с указанным шаблоном prompt и совместимым программным обеспечением; конкретные требования к аппаратным ресурсам зависят от выбранного варианта квантизации.
Модель yoon112/kanana-1.5-8b-instruct-2505-Persona-Merged разработана yoon112 на основе диалоговой модели Kakao kanana-1.5-8b-instruct-2505. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, дообученная с использованием Unsloth и библиотеки TRL. Она предназначена для диалоговой генерации текста и поддерживает интерфейс вызова инструментов. Модель принимает текстовые запросы и генерирует текстовые ответы; размер контекстного окна составляет 32 768 токенов. В метаданных указан английский язык. Лицензия — Apache-2.0. README не приводит отдельной оценки качества или подробностей о назначении Persona в названии.
Это GGUF-квантизация модели gpt-oss-120b-heretic-v2, разработанной kldzj и опубликованной в формате llama.cpp пользователем bartowski. Модель предназначена для генерации текста и может запускаться через llama.cpp, LM Studio и другие совместимые проекты. В репозитории представлены варианты с разными типами квантования, включая BF16 и MXFP4_MOE, а также семейство квантов GGUF с различными компромиссами между размером, скоростью и качеством. Полная версия BF16 имеет размер около 65,37 ГБ, вариант MXFP4_MOE — около 63,39 ГБ. Для квантования использовался imatrix с калибровочными наборами данных. Модель относится к семейству с заявленным размером 120B параметров и ориентирована на текстовые сценарии, включая диалоговую генерацию и выполнение инструкций. README не содержит достоверных сведений о точной архитектуре, поддерживаемых языках, максимальном размере контекста, мультимодальности или результатах специализированных бенчмарков, поэтому эти характеристики нельзя определить по предоставленным данным. Использование требует значительных вычислительных ресурсов, особенно для крупных вариантов; конкретные требования зависят от выбранного кванта и оборудования. Указанная лицензия — Apache-2.0.
jaspionjader/kstc-3-8b — слитая модель генерации текста на архитектуре Llama, созданная автором с помощью mergekit методом SLERP из jaspionjader/kstc-2-8b и Kosmos-EVAA-Franken-Immersive-v41-8B. Модель содержит 7,5 млрд параметров и рассчитана на диалоговое общение и генерацию текста; заявленная длина контекста — до 131 072 токенов. Модель принимает текст и генерирует текст. Карточка не описывает отдельные прикладные специализации или языки. Файлы опубликованы в формате safetensors; используется библиотека Transformers. Лицензия в предоставленных данных не указана.
Ling-lite-base — базовая большая языковая модель с разреженной MoE-архитектурой, разработанная InclusionAI. Репозиторий использует архитектуру BailingMoeForCausalLM и формат safetensors; метаданные указывают 1,5 млрд параметров и контекст 16 384 токена. В README для Ling-lite-base указаны 16,8 млрд общих и 2,75 млрд активируемых параметров, а также контекст 64K, поэтому сведения о размере и контексте в источниках расходятся. Модель предназначена для генерации текста и широкого круга языковых задач, включая обработку естественного языка и решение сложных задач. README не перечисляет отдельные специализированные сценарии и не называет поддерживаемые языки. Лицензия — MIT. Используйте актуальную конфигурацию репозитория при развертывании, учитывая расхождение параметров и длины контекста между карточкой и метаданными.
ayoubkirouane/Llama3.1-8b-small-Instructed — дообученная автором ayoubkirouane языковая модель семейства Llama на базе Meta-Llama-3.1-8B. Она предназначена для генерации текста и выполнения инструкций в формате диалога. Модель имеет плотную архитектуру LlamaForCausalLM и 7,5 млрд параметров; для обучения использован набор ayoubkirouane/Small-Instruct-Alpaca_Format. Работает с текстом, основной язык карточки — английский. Заявленная длина контекста составляет 131 072 токена. Модель подходит для ответов на запросы, создания и преобразования текста по инструкции. В карточке указана библиотека Transformers и формат PyTorch. Лицензия в предоставленных данных не указана, поэтому условия использования базовой модели и дообученной версии следует проверить перед применением.
Llama3-Crab-DPO — англоязычная плотная авторегрессионная языковая модель семейства Llama 3, разработанная Yunjia Qi, Hao Peng, Xiaozhi Wang, Bin Xu, Lei Hou и Juanzi Li. Модель дообучена на основе Llama3-8B с применением метода CRAB, который добавляет к инструкциям сложные ограничения, уже соблюдённые в исходных ответах, и направлен на улучшение следования таким инструкциям. Модель предназначена для генерации текста по инструкциям с несколькими требованиями, включая заданные формат и длину ответа. Она имеет 7,5 млрд параметров и контекстное окно 8192 токена; поддерживает английский язык и распространяется в формате PyTorch. Лицензия — Apache-2.0.