II.1Анализ требований и архитектура ПО
В разделе собраны самостоятельные задачи, где AI помогает переводить потребности бизнеса в непротиворечивые требования и технические решения. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
18 191 модельVPO-Zephyr-7B-0.05-iter-1 — дообученная Katayoon модель на базе Katayoon/DPO-ONLY-Zephyr-7B. Это плотная MistralForCausalLM с 7,1 млрд параметров, предназначенная для диалогов и генерации текстовых ответов. Модель принимает текст и выдаёт текст; доступен контекст длиной до 32 768 токенов. Модель обучена на обновлённом и исходном наборах данных. В карточке не описаны конкретные области применения, результаты оценки и характерные ограничения. Лицензия — MIT.
Yamshadowexperiment28M70.5-0.45-0.64-0.12-0.94-0.72-7B — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров, опубликованная пользователем aaron-di. Она предназначена для генерации текста и диалогов; в карточке показан пример запуска через Transformers с шаблоном чата. Модель принимает текст и выдаёт текст, а её нативный контекст составляет 32 768 токенов. Модель объединяет AurelPx/Percival_01-7b-slerp и liminerity/M7-7b. Файлы представлены в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0. README не сообщает о специализированной области применения или подтверждённых показателях качества.
Это дообученная на исходном и обновлённом наборах данных версия Mistral от ShenaoZ. Модель с плотной архитектурой MistralForCausalLM содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоговое общение. Она принимает текстовые запросы и выдаёт текстовые ответы; заявленная длина контекста — 32 768 токенов. Карточка не описывает конкретные сценарии применения, результаты оценки или специальные ограничения. Модель опубликована в формате Safetensors по лицензии MIT; сведения о языках обучения в карточке отсутствуют.
Модель ShenaoZ/0.0_ablation_6iters_iter_3 — дообученная версия ShenaoZ/0.0_ablation_6iters_iter_2, созданная на обновлённом и исходном наборах данных. Это плотная авторегрессионная языковая модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия. Модель принимает текст и выдаёт текст; длина контекста составляет 32 768 токенов. Репозиторий создан 18 апреля 2024 года и распространяется по лицензии MIT. Карточка не описывает конкретную специализацию, качество ответов, методику обучения или результаты оценки, поэтому пригодность для отдельных областей следует проверять самостоятельно.
Это дообученная модель Qwen3-8B, опубликованная DCAgent и основанная на Qwen/Qwen3-8B. Она предназначена для диалоговой генерации текста; карточка указывает обучение на наборе трасс рассуждений, но не описывает отдельные целевые сценарии или результаты оценки. Модель содержит 7,6 млрд параметров, использует архитектуру Qwen3ForCausalLM, принимает текст и поддерживает контекст до 40 960 токенов. Модель рассчитана на работу через Transformers и распространяется в формате safetensors. Указана лицензия other; конкретные условия лицензии в карточке не раскрыты, поэтому перед использованием следует проверить условия базовой модели и этого репозитория. README не сообщает о специальных ограничениях или оценке качества.
Карточка модели ByteDance-Seed/AHN-Mamba2-for-Qwen-2.5-Instruct-14B на Hugging Face совпадает с карточкой ByteDance-Seed/AHN-Mamba2-for-Qwen-2.5-Instruct-3B, поэтому описание составлено по ней. ByteDance-Seed разработала AHN-Mamba2 для Qwen2.5-3B-Instruct — модуль Artificial Hippocampus Network, расширяющий языковую модель механизмом сжатой памяти для работы с длинным контекстом. AHN переносит информацию, выходящую за пределы скользящего окна внимания, в компактное представление, сохраняя точную информацию внутри окна. Репозиторий содержит только веса модуля AHN: 11,9 млн параметров; базовая модель Qwen2.5-3B-Instruct замораживается при обучении, а обучаются параметры AHN. Метаданные указывают архитектуру Qwen2, 3,1 млрд параметров для модели и контекст до 32 768 токенов. Модель предназначена для генерации текста по длинным последовательностям и сценариев, где важно учитывать контекст за пределами обычного окна внимания. Для контекстов длиной не больше скользящего окна она работает как стандартный Transformer; более дальняя информация хранится сжато, поэтому её точность может быть ниже, чем у исходного токенного контекста. Использование предполагает интеграцию модуля с базовой моделью и соответствующей программной реализацией AHN. Лицензия в метаданных обозначена как other; конкретные условия в предоставленных сведениях не раскрыты.
Карточка модели ByteDance-Seed/AHN-Mamba2-for-Qwen-2.5-Instruct-7B на Hugging Face совпадает с карточкой ByteDance-Seed/AHN-Mamba2-for-Qwen-2.5-Instruct-3B, поэтому описание составлено по ней. ByteDance-Seed разработала AHN-Mamba2 для Qwen2.5-3B-Instruct — модуль Artificial Hippocampus Network, расширяющий языковую модель механизмом сжатой памяти для работы с длинным контекстом. AHN переносит информацию, выходящую за пределы скользящего окна внимания, в компактное представление, сохраняя точную информацию внутри окна. Репозиторий содержит только веса модуля AHN: 11,9 млн параметров; базовая модель Qwen2.5-3B-Instruct замораживается при обучении, а обучаются параметры AHN. Метаданные указывают архитектуру Qwen2, 3,1 млрд параметров для модели и контекст до 32 768 токенов. Модель предназначена для генерации текста по длинным последовательностям и сценариев, где важно учитывать контекст за пределами обычного окна внимания. Для контекстов длиной не больше скользящего окна она работает как стандартный Transformer; более дальняя информация хранится сжато, поэтому её точность может быть ниже, чем у исходного токенного контекста. Использование предполагает интеграцию модуля с базовой моделью и соответствующей программной реализацией AHN. Лицензия в метаданных обозначена как other; конкретные условия в предоставленных сведениях не раскрыты.
aligntune-testrun-merge-models — языковая модель для генерации текста и диалогов, созданная с помощью AlignTune. В метаданных указано слияние на базе Qwen/Qwen2.5-0.5B-Instruct; архитектура — плотная Qwen2ForCausalLM семейства Qwen2, размер — 494 млн параметров. Модель поддерживает контекст до 32 768 токенов и рассчитана на текстовый ввод и текстовый вывод. Модель можно загружать через Transformers и использовать для генерации текста и диалогового взаимодействия. Карточка не описывает специальную предметную область, обучение или отдельные гарантии качества. Формат весов — safetensors; лицензия в предоставленных данных не указана.
Это GGUF-квантизированная версия языковой модели remnant-qwen3-8b, разработанной allura-org. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалоговых сценариев и ролевого общения; в README также указаны теги conversational и roleplay. Модель относится к семейству Qwen3 и имеет размер 8 миллиардов параметров. Она работает в текстовой модальности и поддерживает шаблон сообщений ChatML с ролями system, user и assistant. Доступны варианты от BF16 до низкобитных форматов GGUF, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M и Q3_K; размеры файлов составляют примерно от 3,77 до 16,39 ГБ. В README не указаны точные поддерживаемые языки, размер контекстного окна и подробности архитектуры. Сильной стороной модели является широкий выбор квантизаций, позволяющий подобрать баланс между качеством, потреблением памяти и скоростью локального запуска. Для большинства сценариев рекомендуются варианты Q4_K_M, Q5_K_M или Q6_K. Модель можно использовать через LM Studio, llama.cpp и другие проекты на его основе. Ограничения качества и поведения зависят от выбранного уровня квантизации, а специализированные возможности, такие как обработка изображений, не заявлены. Лицензия — Apache-2.0.
An4-7Bv2.2 — языковая модель с архитектурой Mistral, разработанная Smuggling1710 как дообучение unsloth/mistral-7b-v0.2-bnb-4bit. Модель содержит 7,1 млрд параметров и принимает текст для генерации текста; заявленная длина контекста — 32 768 токенов. В карточке указано, что модель обучалась с использованием Unsloth и библиотеки TRL. Карточка не описывает специальную предметную область или конкретные преимущества и сценарии применения. Для модели указана лицензия Apache-2.0; тег «not-for-all-audiences» указывает на ограничение по аудитории, но характер такого контента не раскрыт.
Artificium-llama3.1-8B-001-GGUF — это набор квантованных файлов модели Artificium-llama3.1-8B-001 от AGI-0, подготовленный пользователем bartowski в формате GGUF для запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель предназначена для генерации текста и диалоговых сценариев; в README также указан шаблон промпта с ролями system, user и assistant. Размер базовой модели составляет 8B параметров, однако точная архитектура, поддерживаемые языки, модальности и размер контекста в предоставленных данных не указаны. Доступны варианты от F16 размером 16,07 ГБ до низкобитных квантований, включая Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K, что позволяет выбирать между качеством генерации и требованиями к памяти. Квантования выполнены с использованием imatrix и релиза llama.cpp b3658; отдельные варианты оптимизированы для ARM-процессоров. Сильная сторона модели — широкий выбор квантований для локального запуска на оборудовании с разным объёмом оперативной памяти; варианты Q5 и Q6 отмечены как высококачественные, а Q4 — как сбалансированные по размеру и качеству. Более сильное сжатие может снижать качество ответов, а совместимость ARM-вариантов зависит от поддержки соответствующих инструкций. Лицензия в README указана как неизвестная, поэтому условия использования необходимо уточнить у разработчика исходной модели AGI-0.
AstraGPT-7B — языковая модель на 7,1 млрд параметров от Aditya Wakharkar и Tantra AI Labs. Это плотный декодерный трансформер семейства Qwen2 с архитектурой Qwen2ForCausalLM; модель распространяется в формате safetensors и использует библиотеку Transformers. Контекст — до 32 768 токенов. Модель дообучена для диалогов и задач рассуждения методом LoRA на 193 841 синтетических примерах «инструкция — рассуждение — ответ». В README также описан собственный BPE-токенизатор с исходным словарём на 64 тысячи токенов, сопоставленным со словарём runtime на 152 тысячи. Модель ориентирована прежде всего на английский язык и генерацию ответов с пошаговыми рассуждениями; специальный режим рассуждения включается префиксом, указанным в шаблоне чата. Подходит для диалоговых ответов и задач, где полезна пошаговая аргументация. Ограничения — возможны ошибки в сложной многошаговой математике и длительных рассуждениях, а также уверенные, но неверные ответы; критические результаты следует проверять. Для работы с reasoning README рекомендует явно добавлять специальный префикс. Лицензия — Apache-2.0.
Astrid-Mistral-7B — разговорная языковая модель, разработанная PAIX.Cloud на базе mistralai/Mistral-7B-Instruct-v0.1. Она предназначена для генерации человекоподобного текста и диалоговых сценариев на английском языке. Модель имеет плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Заявленная длина контекста — 32 768 токенов. Для загрузки и работы используется библиотека Transformers; веса опубликованы в формате safetensors. Модель распространяется по лицензии Apache-2.0. Модель может выдавать неверные, бессмысленные или нерелевантные ответы, а также предвзятый или оскорбительный контент. Ответы следует проверять, особенно в ситуациях, где ошибки могут иметь последствия.
baccbaccules-3b-slerp — объединённая модель для генерации текста, созданная с помощью mergekit методом SLERP из indischepartij/MiniCPM-3B-Bacchus и liminerity/babhaceccrcumuleses-3b-slerp. В репозитории указана архитектура Llama с плотной causal language model и 2,7 млрд параметров; модель поддерживает диалоговый режим и контекст до 2048 токенов. Модель предназначена для генерации текста и диалоговых сценариев. В конфигурации объединения заданы отдельные веса для слоёв self-attention и MLP, а формат весов — bfloat16; файлы опубликованы в safetensors. Модель распространяется по лицензии Apache-2.0.
Sumail/Barista02 — языковая модель семейства Gemma, созданная слиянием предварительно обученных моделей coffiee/g7 и tomaszki/gemma-45-copy с помощью mergekit и метода SLERP. Модель содержит 2,5 млрд параметров, использует архитектуру GemmaForCausalLM и распространяется в формате safetensors. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. Сведений о специальных прикладных областях или поддерживаемых естественных языках в предоставленных источниках нет. Лицензия в предоставленных данных не указана. Качество и ограничения модели отдельно не описаны; результат слияния может унаследовать ограничения исходных моделей.
BenchmarkEngineering-7B-slerp — слитая модель на архитектуре Mistral, созданная разработчиком репозитория из paulml/OmniBeagleSquaredMBX-v3-7B и automerger/YamshadowExperiment28-7B с помощью LazyMergekit и метода slerp. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и рассчитана на генерацию текста; нативный контекст составляет 32 768 токенов. Модель создавалась для высоких результатов в бенчмарках Open LLM. В README приведены средний результат 76,40, 74,15 на AI2 Reasoning Challenge и 89,09 на HellaSwag; эти показатели описывают оценку на конкретных тестах и не гарантируют качество в других сценариях. Подходит для генерации текста и диалоговых ответов, однако отдельные языки и специализированные области применения в карточке не заявлены. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства и ограничивающая коммерческое применение.
BigBang-Aquila-35B-Merged-i1-GGUF — квантизированная GGUF-версия объединённой модели Davd-b01/BigBang-Aquila-35B-Merged, подготовленная mradermacher. В карточке модель помечена как conversational и image-text-to-text, поэтому предназначена для диалоговых задач и обработки связки текста и изображений. Указан английский язык; поддержка других языков не заявлена. Модель относится к семейству с архитектурными признаками Qwen3.5 MoE, однако точные параметры архитектуры, число активируемых экспертов, размер контекста и количество параметров в README не приведены. Доступно множество вариантов квантизации i1 с размером примерно от 7,6 до 28,6 ГБ. В README отмечено, что для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. Главное преимущество — возможность локального запуска в разных конфигурациях памяти и сочетание текстовых и визуальных сценариев. При этом качество зависит от выбранного уровня квантизации: наиболее компактные варианты характеризуются как низкокачественные, а Q4_K_M обозначен как быстрый и рекомендуемый, тогда как более крупные варианты лучше сохраняют качество, но требуют больше ресурсов. Модель распространяется под лицензией Apache-2.0.
BigHuggyD-Grey-WizardLM-2-8x22B — экспериментальное слияние предварительно обученных языковых моделей, опубликованное BigHuggyD и созданное с помощью mergekit методом Model Stock на базе alpindale/WizardLM-2-8x22B. В слияние вошли также Karasu-Mixtral-8x22B-v0.1, Eurux-8x22b-nca, Dolphin-2.9.2-Mixtral-8x22B, Tess-2.0-Mixtral-8x22B и Mixtral-8x22B-Instruct-Oh. Модель предназначена для генерации текста и диалогового общения. Она использует архитектуру Mixtral MoE с классом MixtralForCausalLM, содержит 22 млрд параметров и поддерживает контекст до 65 536 токенов. Репозиторий предоставляет веса в формате safetensors для библиотеки Transformers. В README автор называет модель небольшим экспериментом по слиянию, поэтому её качество и преимущества относительно включённых моделей не подтверждены. Языки и условия лицензирования в предоставленных данных не описаны.
BigWeave v15 103b — экспериментальная слитая языковая модель от автора репозитория llmixer. Она создана на основе повторного слияния слоёв модели 152334H/miqu-1-70b-sf: по измерениям exl2 выбраны подходящие слои, а пары слоёв продублированы для перекрытия. Модель построена на архитектуре LlamaForCausalLM, содержит 102,9 млрд параметров и имеет контекстное окно 32 764 токена. Модель предназначена для генерации текста и диалогов. В README указаны форматы подсказок Mistral, Vicuna и Alpaca; приведены результаты тестов на рассуждение и понимание текста. Номер версии отражает последовательность экспериментов со слиянием и сам по себе не показывает качество. Файлы представлены в формате safetensors. Лицензия в метаданных обозначена как unknown.
BigWeave v32 96b — экспериментальная языковая модель, созданная llmixer с помощью self-merge модели meta-llama/Meta-Llama-3-70B-Instruct. При слиянии продублированы средние слои и масштабированы матрицы; модель использует архитектуру Llama и предназначена для генерации текста и диалогов в формате prompt llamav3. В ней 95,2 млрд параметров, контекстное окно — 8192 токена; репозиторий содержит веса Safetensors. Карточка описывает серию экспериментов по настройке параметров слияния, а номер версии не отражает качество. Модель распространяется по лицензии Llama 3.
QuantFactory/Buzz-8b-Large-v0.5-GGUF — квантованная версия языковой модели Buzz-8b-Large-v0.5, разработанной Alignment Lab AI совместно с Hive Digital Technologies. Модель создана на базе существующих предварительно обученных моделей и дорабатывалась с применением итеративного fine-tuning, отбора и улучшения данных. Релиз в формате GGUF подготовлен с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска, включая сценарии персонального использования, экспериментов с языковыми моделями и построения чат-систем. Она работает преимущественно как completion-модель: по умолчанию продолжает переданный текст. Для диалогового режима README рекомендует добавлять специальные токены завершения и начала текста, а также обозначение роли ассистента. Заявлен английский язык. Ключевая характеристика модели — размер около 8 миллиардов параметров и поддержка формата GGUF, удобного для инференса через совместимые инструменты llama.cpp. Точные параметры квантования, размер контекстного окна, перечень доступных вариантов GGUF и результаты бенчмарков в README не указаны. Ограничениями являются completion-ориентированное поведение и необходимость правильно формировать промпт для стабильного диалога. Модель распространяется по лицензии Apache-2.0.
calme-2.3-rys-78b-GGUF — это квантизированная версия большой языковой модели calme-2.3-rys-78b, разработанной MaziyarPanahi и опубликованной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск чат-ботов через llama.cpp и LM Studio. Указана поддержка английского языка и формат запросов ChatML. Модель содержит около 78 млрд параметров и относится к семейству Qwen/Qwen2, однако подробности архитектуры и размер контекста в README не приведены. Доступен широкий набор вариантов квантизации от Q8_0 до IQ1_M с размером файлов примерно от 25 до 83 ГБ. Варианты Q6_K, Q5_K_M, Q4_K_L, Q4_K_M и IQ4_XS заявлены как обеспечивающие высокое качество при меньшем размере; более низкие уровни квантизации экономят память, но снижают качество и могут быть непригодны для требовательных задач. Основные преимущества — возможность локального использования, поддержка llama.cpp, несколько вариантов компромисса между качеством и требованиями к памяти, а также квантизация с использованием imatrix. Ограничения включают значительные требования к оперативной памяти и отсутствие сведений о мультимодальности, точном контексте и результатах бенчмарков. Лицензия модели указана как MIT.
calme-2.4-qwen2-7b — языковая модель, дообученная MaziyarPanahi на базе Qwen/Qwen2-7B. Она предназначена для генерации текста в диалоговом формате и ориентирована на улучшение результатов базовой модели в бенчмарках. Для общения используется шаблон ChatML. Модель имеет плотную архитектуру Qwen2ForCausalLM, содержит 7,1 млрд параметров и рассчитана на контекст до 131 072 токенов. В карточке указаны английский язык и дообучение на наборах HelpSteer2, OpenHermes-2.5, Orca Math Word Problems 200k и SlimOrca. Репозиторий распространяется в формате safetensors по лицензии Apache-2.0. В опубликованных результатах Open LLM Leaderboard указаны средний балл 22,52, результат 33,00 на IFEval и 31,82 на BBH; карточка заявляет цель улучшить базовую модель по бенчмаркам, но не приводит полного описания методики оценки. Как и другие языковые модели, она может генерировать ошибки или неподтверждённые сведения; качество на конкретных задачах следует оценивать отдельно.
CAMEL-13B-Combined-Data — диалоговая языковая модель команды CAMEL-AI, полученная дообучением LLaMA-13B. Модель содержит 12,9 млрд параметров, использует плотную архитектуру LLaMA и формат PyTorch; длина контекста составляет 2048 токенов. Для обучения использованы 229 тысяч диалогов, собранных фреймворком CAMEL, 100 тысяч англоязычных диалогов ShareGPT и 52 тысячи инструкций из Alpaca. Модель предназначена для генерации ответов в диалоге и выполнения инструкций на английском языке. В README приведены результаты офлайн-оценки на наборах ARC, HellaSwag, MMLU и TruthfulQA. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но не коммерческое применение. Карточка не описывает поддержку инструментов или мультимодальных входов.
Это дообученная модель семейства Llama, созданная на основе marin-community/marin-8b-base и обученная на наборе capsd_marin-8b-base-n80000-opc__mix_code_less_b2000_s0. Она предназначена для генерации и продолжения текста в диалоговых сценариях. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст; заявленная длина контекста — 4096 токенов. Репозиторий использует Transformers и формат safetensors. Базовая Marin 8B Base ориентирована на английский язык; другие поддерживаемые языки для этой производной модели не подтверждены. Лицензия указана как other, поэтому условия использования следует сверить с лицензией в репозитории.
Карточка модели AmberYifan/capsd-less-ultra-opc-marin-8b-base-code_less_b2000_s0 на Hugging Face совпадает с карточкой AmberYifan/capsd-less-fast-opc-marin-8b-base-code_less_b2000_s0, поэтому описание составлено по ней. Это дообученная модель семейства Llama, созданная на основе marin-community/marin-8b-base и обученная на наборе capsd_marin-8b-base-n80000-opc__mix_code_less_b2000_s0. Она предназначена для генерации и продолжения текста в диалоговых сценариях. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст; заявленная длина контекста — 4096 токенов. Репозиторий использует Transformers и формат safetensors. Базовая Marin 8B Base ориентирована на английский язык; другие поддерживаемые языки для этой производной модели не подтверждены. Лицензия указана как other, поэтому условия использования следует сверить с лицензией в репозитории.
CapyTessBorosYi-34B-200K-DARE-Ties — экспериментальная объединённая языковая модель на архитектуре Llama, созданная brucethemoose с помощью mergekit. Она объединяет Nous-Capybara-34B, Tess-M-v1.3 и airoboros-3_1-yi-34b-200k методом DARE-TIES; для модели использован токенизатор Yi-Llama от chargoddard. Модель предназначена для генерации текста и диалогов по шаблону Orca-Vicuna. Заявленная длина контекста — 200 000 токенов, размер — 33,9 млрд параметров; README отмечает эксперименты с качеством на длинном контексте и perplexity. Для запуска автор описывает настройки BOS-токена и температуры, а также возможную необходимость добавить стоп-токен. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в исходных лицензиях компонентов.
thuyduongjoe123/checkpoints_vi_lo_feat — текстовая генеративная модель из семейства Qwen3 с примерно 1,7 млрд параметров. Модель доступна для использования через библиотеку Transformers и поддерживает контекст длиной до 40 960 токенов. В метаданных также указана conversational-направленность и формат safetensors. Модель предназначена для генерации продолжений текста и построения диалоговых сценариев: ответов на запросы, ведения беседы, подготовки черновиков и других задач, требующих генерации текста. README создан автоматически и не содержит сведений о разработчике, обучающих данных, результатах оценки, лицензии, поддерживаемых естественных языках или конкретной специализации модели. Из-за отсутствия подробной документации нельзя подтвердить качество на отдельных языках и доменах, устойчивость к фактическим ошибкам или пригодность для критически важных применений. Условия лицензирования также не определены в доступных источниках.
Sha703 дообучил модель Mistral 7B Instruct v0.3 с помощью Unsloth и библиотеки TRL. Это плотная авторегрессионная языковая модель для генерации текста и диалогового общения; размер составляет 7,1 млрд параметров, контекст — до 32 768 токенов. Карточка не описывает конкретную специализацию дообучения, поэтому модель можно характеризовать только как разговорную модель общего назначения. Модель принимает текстовые запросы и генерирует текстовые ответы. Репозиторий содержит веса в формате safetensors; модель распространяется по лицензии Apache-2.0. В метаданных указан английский язык. Специальные области применения и результаты оценки качества не описаны.
crunchy-onion bagel — языковая модель, созданная автором репозитория путём объединения предварительно обученных моделей с помощью mergekit и метода DARE TIES. В состав объединения вошли Mixtral-8x7B-v0.1, Mixtral-8x7B-Instruct-v0.1, crunchy-onion-base и bagel-dpo-8x7b-v0.2. Архитектура — Mixtral MoE с авторегрессионной генерацией текста; объём параметров в метаданных указан как 7,1 млрд, контекст — до 32 768 токенов. Модель предназначена для генерации текста по запросам, включая диалоговые сценарии. Инструктивный компонент Mixtral позволяет использовать её для ответов на запросы и продолжения текста, однако карточка не приводит отдельных оценок качества или специализированных областей применения. Лицензия в предоставленных данных не указана.