II.1Анализ требований и архитектура ПО
В разделе собраны самостоятельные задачи, где AI помогает переводить потребности бизнеса в непротиворечивые требования и технические решения. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
18 191 модельМодель ShenaoZhang/0.001_4iters_bs256_nodpo_only4w_zephyr_iter_3 — дообученная версия чат-модели Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и ответов в диалоге. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В README указано, что модель дообучена на наборах данных updated и original на основе ShenaoZhang/0.001_4iters_bs256_nodpo_only4w_zephyr_iter_2. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Подробности о качестве, оценке и конкретных ограничениях в карточке не описаны.
Это диалоговая языковая модель Mistral с 7,1 млрд параметров, дообученная ShenaoZhang на основе ShenaoZhang/0.01_zephyr_5551_4iters_bs256_iter_1 на обновлённом и исходном наборах данных. Она предназначена для генерации текста и общения в формате чата; заявленная длина контекста — 32 768 токенов. Модель распространяется в формате Safetensors по лицензии MIT. Подробности о качестве, оценке и конкретных ограничениях в карточке не приведены.
Это GGUF-квантизированная версия текстовой генеративной модели 70B-L3.3-Cirrus-x1, разработанной Sao10K и подготовленной пользователем bartowski. Квантизация выполнена с помощью llama.cpp и метода imatrix; доступны варианты от Q8_0 до IQ2_XXS с разным соотношением качества, размера файла и требований к памяти. Модель предназначена для генерации текста и может запускаться локально через llama.cpp или LM Studio. В README приведён специальный формат промпта на основе шаблона Llama 3.3 с ролями system, user и assistant. Версия содержит около 70 миллиардов параметров, однако сведения об архитектуре, поддерживаемых языках, модальностях и максимальной длине контекста не указаны. Сильной стороной являются многочисленные варианты квантизации: Q6_K и Q5_K обозначены как высококачественные, Q4_K_M — как стандартный вариант для большинства сценариев, а более компактные Q3 и Q2 позволяют снизить требования к оперативной памяти ценой заметного ухудшения качества. Файлы могут занимать примерно от 19 до 75 ГБ, поэтому для запуска требуется мощное локальное оборудование; точные требования к аппаратному обеспечению и производительности не приведены. Модель распространяется по лицензии llama3.3.
Aetheris-Core-2B — языковая модель Miiyamoto255 для локальной генерации текста и диалогов. Она использует плотную архитектуру Gemma 2 с причинной языковой моделью на 2,7 млрд параметров; контекст составляет до 8192 токенов. В карточке заявлены помощь в программировании и разработке игр, рассуждения, следование инструкциям, объяснения, ответы на вопросы, суммаризация и творческая генерация. Указаны Python, JavaScript, HTML/CSS, C и C++, однако метаданные подтверждают английский как язык модели. Модель распространяется в формате Safetensors и предназначена для быстрого локального запуска при умеренных требованиях к памяти. В метаданных её происхождение отмечено как слияние с google/gemma-2-2b-it; карточка при этом называет её созданной с нуля, поэтому детали происхождения описаны противоречиво. Автор заявляет о меньшей склонности к необоснованным отказам. Модель может ошибаться в рассуждениях и ответах, а её надёжность для перечисленных задач не подтверждена приведённой демонстрацией. Указана пользовательская лицензия Miiyamoto255; перед использованием следует ознакомиться с её условиями.
AI21-Jamba2-3B-GGUF — это набор квантизированных моделей для генерации текста, созданный сообществом bartowski на основе AI21-Jamba2-3B от AI21 Labs. Модели распространяются в формате GGUF и подготовлены с использованием llama.cpp и метода imatrix. Они предназначены для локального запуска и текстовой генерации в совместимых инструментах, включая llama.cpp, LM Studio, koboldcpp, Jan AI и Text Generation Web UI. В набор входят варианты от BF16 до квантизаций Q8, Q6, Q5, Q4, Q3 и IQ3/IQ4 с размером файлов примерно от 1,4 до 6,4 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее качество, тогда как компактные варианты подходят для систем с ограниченной оперативной памятью. Рекомендуемыми указаны многие варианты Q6, Q5 и Q4; Q4_K_M обозначен как типичный выбор для большинства сценариев. Для работы следует использовать указанный формат чата с системным сообщением, запросом пользователя и ответом ассистента. Сильные стороны модели — возможность локального запуска, широкий выбор компромиссов между качеством и потреблением памяти, а также совместимость с экосистемой llama.cpp. Ограничения включают неизбежную потерю качества при низких уровнях квантизации и возможную необходимость обновления программного обеспечения для недавно поддержанных моделей. В README не указаны архитектурные детали, поддерживаемые языки и размер контекстного окна. Указанная лицензия — Apache-2.0.
ArliAI-Llama-3-8B-Cumulus-v0.2 — чат-модель OwenArli на архитектуре Llama 3, дообученная на основе Meta-Llama-3-8B-Instruct с помощью QLoRA и DPO. Она предназначена для диалогов и генерации ответов с минимальным числом отказов, в том числе для сценариев, где штатные ограничения базовой модели мешают работе. Модель содержит около 7,5 млрд параметров и поддерживает контекст до 8192 токенов; в README указан формат диалога с system-, user- и assistant-сообщениями. Автор предупреждает, что после снятия ограничений модель может уступать исходной Instruct-модели в рассуждениях и качестве ответов. README заявляет, что модель почти не отказывает, поэтому её ответы требуют внимательной проверки и ответственного применения. Условия использования определяются лицензией Meta Llama 3.
ArliAI_Mistral-Small-24B-ArliAI-RPMax-v1.4-GGUF — это набор GGUF-квантизованных версий текстовой генеративной модели Mistral-Small-24B-ArliAI-RPMax-v1.4, разработанной ArliAI. Квантизацию выполнил bartowski с использованием llama.cpp b4792 и метода imatrix. Модель предназначена для генерации текста, а также для локального запуска через LM Studio, llama.cpp и другие совместимые проекты. Модель имеет размер 24B параметров в исходной версии, но README не содержит точных сведений об архитектуре, поддерживаемых языках, модальностях и размере контекстного окна. Доступны варианты квантизации от Q8_0 до низкобитных Q3 и IQ3/IQ4, с размером файлов примерно от 10,65 до 25,05 ГБ. Варианты Q6_K_L, Q6_K, Q5 и Q4_K рекомендуются как обеспечивающие высокое или хорошее качество при меньших требованиях к памяти; более лёгкие варианты подходят для систем с ограниченным объёмом RAM, но могут заметнее снижать качество. Модель распространяется по лицензии Apache-2.0. Для работы используется указанный шаблон промпта с системным сообщением и пользовательской инструкцией. Основное ограничение — необходимость подбора квантизации с учётом доступной памяти и допустимой потери качества; сведения о результатах тестирования, специализированных возможностях и языковой поддержке в README отсутствуют.
Barcenas-10b — инструкционная языковая модель, созданная разработчиком Danielbrdz на основе tiiuae/Falcon3-10B-Instruct. Модель дообучена на наборе yahma/alpaca-cleaned; автор указывает, что проект исследует дообучение семейства Falcon 3. Модель предназначена для генерации текста и диалогов по инструкциям. Она имеет плотную архитектуру LlamaForCausalLM с 9,9 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. В метаданных указан английский язык, а интерфейс модели рассчитан на чат и вызов инструментов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не приводит результатов оценки качества или специальных ограничений применения.
BigWeave v29 122b — экспериментальная плотная языковая модель семейства Llama, созданная llmixer с помощью слияния слоёв модели 152334H/miqu-1-70b-sf. В модели 121,8 млрд параметров; слои повторяются группами по четыре с перекрытием в два слоя, при этом первые и последние слои не повторяются. Заявленная длина контекста — 32 764 токена. Модель предназначена для генерации текста и диалогов. В README указаны форматы запросов ChatML, Mistral и Vicuna. Проект экспериментирует с настройками слияния, поэтому номер версии не отражает качество; лицензия в метаданных обозначена как неизвестная.
Brunhilde-13b — плотная авторегрессионная языковая модель семейства Llama от arlineka, предназначенная для генерации текста по инструкции и ролевых сценариев. Карточка использует шаблон Alpaca с отдельными полями для инструкции и ответа; в метаданных указаны 12,9 млрд параметров и контекст до 4096 токенов. Модель распространяется в формате Safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. README приводит результаты Open LLM Leaderboard, включая оценки по ARC и HellaSwag, но не содержит подробностей о методе обучения или составе возможного слияния моделей.
calme-2.6-qwen2-7b — дообученная Maziyar Panahi версия языковой модели Qwen2-7B, предназначенная для диалоговой генерации текста. Разработчик заявляет, что дообучение нацелено на улучшение результатов базовой модели по различным бенчмаркам; в карточке указаны наборы HelpSteer2, OpenHermes-2.5, Orca Math Word Problems и SlimOrca. Модель имеет плотную архитектуру Qwen2ForCausalLM с 7,1 млрд параметров и контекстом до 131 072 токенов. Она работает с текстом, поддерживает шаблон диалога ChatML и ориентирована на английский язык. Весовые файлы представлены в формате safetensors; отдельно доступны квантованные версии GGUF. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результатов оценки: раздел с бенчмарками помечен как ожидающий публикации. Поэтому заявленное улучшение относительно базовой модели нельзя проверить по приведённым данным; качество ответов и математических рассуждений следует оценивать на собственных задачах.
Это дообученная модель семейства Llama с 7,5 млрд параметров, созданная на основе marin-community/marin-8b-base. Согласно карточке, для дообучения использован набор capsd_marin-8b-base-n80000-opc-dedup80k__mix_code_random_b10000_s0; подробности о процедуре обучения и оценке не приведены. Модель предназначена для генерации текста и поддерживает чатовый сценарий. Базовая модель ориентирована на английский язык; контекст модели составляет 4096 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия указана как other, поэтому условия использования следует уточнить по карточке базовой модели и файлам репозитория.
ChatHercules-2.5-Mistral-7B-DPO — текстовая генеративная модель на архитектуре Mistral с 7,1 млрд параметров, созданная Locutusque. Она получена слиянием Locutusque/Hercules-2.5-Mistral-7B и openchat/openchat-3.5-0106 методом SLERP, а затем дообучена методом DPO на части набора argilla/distilabel-intel-orca-dpo-pairs. Модель предназначена для диалогов и генерации ответов на текстовые запросы; заявленная длина контекста — 32 768 токенов. В карточке указан английский язык и библиотека Transformers. Модель подходит для создания чат-ботов, ответов на вопросы и генерации текста на английском языке. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. Карточка не приводит оценок качества или специальных ограничений применимости.
checkpoints_en_my_logit — компактная языковая модель семейства Qwen3 с 1,7 млрд параметров, опубликованная в формате, совместимом с библиотекой Transformers. По метаданным модель предназначена для генерации текста и поддерживает контекст длиной до 40 960 токенов; тег conversational указывает на применимость в диалоговых сценариях. Модель можно использовать для генерации ответов, ведения диалога, продолжения текста и создания прототипов текстовых приложений. Сильными сторонами являются небольшой размер относительно более крупных языковых моделей и длинное контекстное окно. Разработчик, лицензия, языки обучения, данные, результаты оценки и точная архитектура в доступных материалах не описаны, поэтому модель следует предварительно проверять на целевых данных и учитывать возможные фактические ошибки, смещения и нестабильность ответов.
CrystalMistral_7b_v.03 — языковая модель для генерации текста и диалогов, созданная Crystalcareai с помощью LazyMergekit. Это слияние методом SLERP моделей Crystalcareai/CrystalMistral-GPT4 и cognitivecomputations/samantha-1.2-mistral-7b. Модель построена на архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Карточка не описывает языковую специализацию или отдельные прикладные области. Модель подходит для генерации ответов и ведения диалога. Данных о сравнительных оценках качества и известных ограничениях нет. Условия лицензии в предоставленных данных не указаны.
cybertron-v4-qw7B-MGS-GGUF — это GGUF-квантизированная версия языковой модели cybertron-v4-qw7B-MGS, разработанной fblgit и квантизированной bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp или LM Studio. В README указана поддержка английского языка и текстовая модальность; данные о точной архитектуре, количестве параметров и размере контекста не приведены. Доступны варианты от F16 до Q3_K_XL, включая Q8_0, Q6_K, Q5_K и Q4_K, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Для запуска рекомендуется использовать формат prompt с маркерами ChatML. Среди заявленных результатов оценки: 62,64% строгой точности на IFEval, 37,04% на BBH, 27,72% exact match на MATH уровня 5 и 38,59% на MMLU-PRO. Эти показатели характеризуют способность модели следовать инструкциям, рассуждать и отвечать на академические вопросы, но не заменяют оценку на прикладных данных. Сильной стороной являются разнообразие доступных квантизаций и возможность локального использования при ограниченных ресурсах. Ограничения включают отсутствие сведений о мультимодальности, точных архитектурных характеристиках и контексте, а также заметное снижение качества у более компактных вариантов. Модель распространяется по лицензии other с указанием лицензии Qwen; для юридически корректного использования следует ознакомиться с условиями лицензии Qwen.
DarkIdol-Llama-3.1-13.3B-Instruct-1.2-Uncensored — объединённая модель для генерации текста в формате инструкционного диалога. Она создана методом passthrough merge с помощью mergekit на основе aifeifei798/DarkIdol-Llama-3.1-8B-Instruct-1.2-Uncensored. По архитектуре это плотная авторегрессионная модель семейства Llama с классом LlamaForCausalLM, примерно 12,7 млрд параметров и контекстом до 131 072 токенов. Модель рассчитана на текстовый чат и генерацию ответов; базовая модель также описана как предназначенная для ролевых игр и художественных текстов. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. В названии указано, что модель uncensored, однако README не описывает конкретные правила модерации или гарантии поведения. Лицензия в предоставленных данных не указана, поэтому условия использования по ним определить нельзя.
bartowski/ddh0_Cassiopeia-70B-GGUF — набор квантизированных версий текстовой генеративной модели Cassiopeia-70B, разработанной ddh0. Квантизация выполнена bartowski с использованием llama.cpp b5934 и метода imatrix; распространение осуществляется в формате GGUF. Модель предназначена для генерации текста и диалоговых сценариев, а также для локального запуска через LM Studio, llama.cpp и другие проекты на базе llama.cpp. Доступны варианты квантизации от Q8_0 до Q2 и IQ2–IQ4, включая Q6_K и Q5_K_M/S, рекомендованные для высокого качества, а также более компактные версии для систем с ограниченным объёмом оперативной памяти. Размер файлов составляет примерно от 24 до 75 ГБ, при этом некоторые варианты поставляются разделёнными на несколько частей. Более сильная квантизация экономит память, но может снижать качество генерации; низкобитные варианты отмечены как имеющие низкое качество. Модель поддерживает текстовую модальность и использует специальный шаблон prompt с ролями system, user и assistant. Сведения о поддерживаемых языках, размере контекстного окна, точной архитектуре, исходной лицензии и результатах оценки в README не указаны, поэтому эти характеристики нельзя надёжно определить по представленным данным. Условия лицензирования также не указаны.
Deacon 34B — большая языковая модель для генерации текста, разработанная Knut Jägersberg и распространяемая в формате GGUF командой TheBloke. Она основана на архитектуре Yi, имеет около 34 млрд параметров и использует обучающие данные EverythingLM-data-V3. Модель предназначена для текстовой генерации и диалоговых сценариев; в README приведён шаблон запросов SciPhi с отдельными секциями для системного сообщения, инструкции и ответа. Это текстовая, немультимодальная модель: поддерживаемые языки и размер контекстного окна в README не указаны. Представленная версия квантована в формат GGUFv2 с вариантами от 2 до 8 бит, что позволяет запускать её через llama.cpp и совместимые приложения, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие инструменты, на CPU и GPU. Разные уровни квантования дают компромисс между требованиями к памяти и сохранением качества, однако конкретные показатели производительности и качества не приведены. Лицензия обозначена как yi-license с типом other; подробные условия следует уточнять в файле LICENSE оригинального проекта. README не содержит заявленных сильных сторон, результатов тестирования или ограничений, помимо общих особенностей квантованного формата и необходимости использовать совместимое программное обеспечение.
DeepSeek-R1-Distill-Qwen-1.5B-heretic — модифицированная версия DeepSeek-R1-Distill-Qwen-1.5B, опубликованная пользователем saidutta69. Модель создана с помощью Heretic v1.4.0 методом направленной абляции: целевые изменения весов в выходных проекциях attention и down-проекциях MLP подавляют поведение, связанное с отказами, без дообучения. Основой служит модель deepseek-ai, построенная на архитектуре класса Qwen2.5; размер модели — около 1,8 млрд параметров. Указан английский язык, задача — генерация текста и рассуждения с пошаговыми reasoning-трассами. Модель предназначена для разработчиков, которым нужны возможности дистиллированной DeepSeek-R1 без встроенных отказов, включая локальный запуск на CPU и потребительском оборудовании. Она поддерживает форматы GGUF и запуск через llama.cpp, Ollama, LM Studio, Jan, vLLM, SGLang и Transformers. Ключевое преимущество — компактность: квантованные варианты занимают примерно от 718 МБ до 1,76 ГБ, а рекомендованный Q4_K_M — около 1,04 ГБ. При этом README подчёркивает, что это не улучшение базовой модели, а её вариант с удалёнными защитными ограничителями. Ограничение модели заключается в намеренном подавлении отказов: она может выполнять запросы, от которых базовая модель отказалась бы, в том числе потенциально нежелательные, и не содержит дополнительной системы фильтрации безопасности. Ответственность за применение и развёртывание лежит на пользователе. Модель распространяется по лицензии MIT, унаследованной от базовой модели.
SakanaAI/DiscoPOP-zephyr-7b-gemma — диалоговая языковая модель Sakana AI, полученная дообучением HuggingFaceH4/zephyr-7b-gemma-sft-v0.1 на наборе argilla/dpo-mix-7k с применением алгоритма DiscoPOP (Discovered Preference Optimization). По сравнению с моделью Zephyr Gemma, обученной с DPO, здесь использован DiscoPOP для оптимизации предпочтений ответов. Модель построена на плотной архитектуре GemmaForCausalLM и содержит 8,2 млрд параметров. Она предназначена для генерации текста и диалоговых ответов; поддерживает контекст до 8192 токенов. В метаданных указан английский язык. Модель распространяется под лицензией Gemma. Карточка не приводит подробных оценок качества или отдельных ограничений применения.
NotASI/Einstein-Replete-7B — языковая модель для диалоговой генерации текста, созданная объединением моделей Weyaxi/Einstein-v7-Qwen2-7B и Replete-AI/Replete-LLM-Qwen2-7b методом TIES с помощью mergekit. В качестве базовой модели использована Qwen/Qwen2-7B. Модель построена на плотной архитектуре Qwen2 с причинным языковым моделированием и содержит 7,1 млрд параметров; заявленная длина контекста — 131 072 токена. Модель предназначена для ведения диалогов и генерации текста. Карточка не приводит подробных сведений о специализации, языковом покрытии или сравнительных результатах, поэтому оценить её сильные стороны для конкретных задач нельзя. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.
Experiment26Alloyingotneoy-7B — объединённая модель для генерации текста, созданная Maxime Labonne методом slerp из rwitz/experiment26-truthy-iter-0 и nlpguy/AlloyIngotNeoY. Это плотная причинно-языковая модель архитектуры Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Репозиторий содержит веса в формате safetensors; метаданные указывают лицензию Apache-2.0. Модель подходит для генерации продолжений текста и диалоговых ответов в сценариях, где требуется текстовая языковая модель. README описывает автоматическое слияние весов и пример запуска через Transformers, но не приводит оценок качества или специализированных возможностей.
Experiment26Neuralarjuna-7B — автоматически собранная Maxime Labonne языковая модель для генерации текста по запросу. В README указано слияние моделей методом DARE-TIES; в конфигурации участвуют rwitz/experiment26-truthy-iter-0 и Kukedlc/NeuralArjuna-7B-DT. Метаданные связывают её с дообученной Kukedlc/NeuralArjuna-7B-DT и указывают архитектуру Mistral с плотной causal language model. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка не описывает специализированную область применения или дополнительные возможности сверх генерации текста.
MaziyarPanahi/Experiment26Yam_Ognoexperiment27Multi_verse_model — объединённая модель для генерации текста, созданная на основе двух моделей: automerger/Experiment26Yam-7B и automerger/Ognoexperiment27Multi_verse_model-7B. Она использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста с контекстом до 32 768 токенов. Карточка не уточняет специализацию, поддерживаемые языки или отдельные сценарии применения. Веса опубликованы в формате safetensors по лицензии Apache-2.0.
Experiment26Yamshadow_Strangemerges_32Alloyingotneoy — объединённая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель объединяет automerger/Experiment26Yamshadow-7B и automerger/Strangemerges_32Alloyingotneoy-7B; веса представлены в формате safetensors. Модель подходит для диалогов и генерации текстовых ответов, а также для других сценариев, основанных на продолжении текста. Данных о специализации на конкретных предметных областях и языках нет. Распространяется по лицензии Apache-2.0.
Experiment28Inex12-7B — объединённая модель, созданная Maxime Labonne автоматическим слиянием yam-peleg/Experiment28-7B и MSL7/INEX12-7b методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста. Для объединения использованы диапазоны слоёв 0–32 обеих моделей и отдельные коэффициенты смешивания для self-attention и MLP; веса сохранены в формате Safetensors. Модель принимает текст и генерирует текст, её родной контекст составляет 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0. Карточка описывает конфигурацию слияния и пример использования через Transformers, но не приводит оценки качества или специализированного назначения; поэтому модель уместно рассматривать как экспериментальный вариант для генерации текста, а её пригодность для конкретных задач следует проверять отдельно.
Fimbulvetr-Holodeck-Erebus-Westlake-10.7B — плотная языковая модель семейства Mistral с 10,6 млрд параметров, опубликованная Backyard AI как реконструкция по рецепту mergekit. В метаданных указаны базовые модели Sao10K/Fimbulvetr-11B-v2 и Undi95/Mistral-11B-v0.1; тип происхождения — слияние. Репозиторий содержит веса Safetensors и предназначен для генерации текста в Transformers. Модель подходит для диалогов и генерации текста, в том числе в локальном чате с персонажами. Её контекстное окно составляет 32 768 токенов. Карточка описывает приложение Backyard AI и его функции, но не уточняет отдельные качества самой модели. Лицензия в предоставленных данных не указана.
EpistemeAI2/Fireball-Alpaca-Llama3.1.02-8B-Philos — дообученная текстовая языковая модель семейства Llama 3.1, разработанная на базе Fireball-Alpaca-Llama3.1.01-8B-Philos. Она предназначена для генерации текста и диалогового взаимодействия в формате инструкций Alpaca; карточка рекомендует использовать шаблон Alpaca. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. Подходит для ассистентских диалогов и генерации текста. В карточке приведено описание возможностей Llama 3.1: поддержка английского, французского, немецкого, хинди, итальянского, португальского, испанского и тайского языков. Для этой конкретной дообученной модели метаданные указывают английский язык. Модель распространяется по лицензии Apache 2.0 согласно метаданным репозитория; README содержит общую информацию о лицензии семейства Llama 3.1, поэтому условия лицензирования самой модели стоит сверять с карточкой репозитория. Как и другие генеративные модели, она может выдавать ошибочные или небезопасные ответы; качество для языков, отличных от английского, отдельно не подтверждено.
FrankenMonarch-7B — экспериментальная диалоговая языковая модель, созданная mlabonne с помощью LazyMergekit. Она объединяет перекрывающиеся диапазоны слоёв пяти копий AlphaMonarch-7B методом passthrough; архитектура — плотная MistralForCausalLM. Метаданные указывают 10,6 млрд параметров, контекст до 32 768 токенов и формат Safetensors; в README также упомянуты квантизованные версии GGUF. Модель предназначена для генерации текста и диалога. Её можно использовать для ответов на сообщения, продолжения текста и интерактивного общения. Базовая AlphaMonarch-7B описана как модель для следования инструкциям и рассуждений, но README не приводит отдельных результатов оценки FrankenMonarch-7B. Лицензия CC BY-NC 4.0 разрешает использование на условиях Creative Commons Attribution-NonCommercial 4.0 и ограничивает коммерческое применение.