II.1Анализ требований и архитектура ПО

Huihui-Qwen3.5-27B-abliterated-Athanorlite-ORPO-i1-GGUF — это квантизированная в формате GGUF версия модели Huihui-Qwen3.5-27B-abliterated-Athanorlite-ORPO. Базовую модель разработал nbeerbower, а квантизацию выполнил mradermacher. Для обучения или дообучения указана выборка schneewolflabs/Athanorlite-DPO; также модель связана с методом ORPO. Модель предназначена для генерации текста и локального запуска в совместимых инструментах, поддерживающих GGUF. В README она обозначена как vision model, поэтому для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория. Заявлен английский язык. Размер модели составляет 27B параметров согласно идентификатору и названию базовой модели, однако сведения о длине контекста, точной архитектуре и полном наборе поддерживаемых модальностей не приведены. Доступно множество вариантов квантизации с размерами примерно от 7,2 до 16,6 ГБ и выше. Более компактные варианты требуют меньше памяти, но могут заметно уступать по качеству; в README вариант i1-Q4_K_M отмечен как рекомендуемый по сочетанию скорости и качества, а i1-Q4_K_S — как сбалансированный по размеру, скорости и качеству. Ограничения включают возможное снижение качества из-за сильной квантизации, неполные сведения о производительности и отсутствие заявленных оценок. Лицензия в представленном README не указана, поэтому условия использования необходимо уточнять в репозитории базовой модели и связанных материалов.

Ice0.34b-14.11-RP — разговорная языковая модель на архитектуре Mistral, созданная автором репозитория Icefog72 с помощью слияния предварительно обученных моделей методом SLERP через mergekit. Модель содержит 7,1 млрд параметров, использует формат safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате. Её можно применять для ведения бесед и подготовки текстовых ответов. В README приведены результаты отдельных оценок Open LLM Leaderboard, включая IFEval и BBH. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. README указывает на слияние моделей Ice0.32-10.11-RP и Ice0.33-13.11-RP, однако доступные идентификаторы базовых моделей являются локальными путями Windows, а не репозиториями Hugging Face.

ClaudioItaly/Intelligence-Cod-Rag-7B — объединённая модель для генерации текста и диалогового взаимодействия. Она создана методом TIES с помощью mergekit на основе happzy2633/qwen2.5-7b-ins-v3 и включает AIDC-AI/Marco-o1. Модель использует плотную архитектуру Qwen2 с классом Qwen2ForCausalLM, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Репозиторий распространяет веса в формате safetensors; метаданные указывают библиотеку Transformers и поддержку чата. Модель подходит для генерации ответов и диалогов на основе текстового запроса. Карточка не приводит сведений о специальных возможностях RAG или о целевых языках и предметных областях. Лицензия в предоставленных данных не указана.

JustRL-Qwen3-8b-Selective-Top10pct — экспериментальный чекпойнт из экспериментов BiDirect-OPD, загруженный из `justrl_qwen3_8b_js_ladder_90_100_kl`. Основная ветка содержит состояние на шаге global_step_300; также доступны более ранние чекпойнты с шагов 20–280. Это плотная авторегрессионная языковая модель семейства Qwen3 с архитектурой Qwen3ForCausalLM и 7,6 млрд параметров. Модель предназначена для генерации текста и диалогового использования, принимает текст и выдаёт текст. В метаданных указан контекст длиной до 40 960 токенов; репозиторий содержит веса в формате safetensors. Карточка не описывает результаты оценки качества, конкретные сценарии эксперимента или ограничения применения. Лицензия не указана в предоставленных данных.

K2-Horizon-7B-Uno-Uncensored-GGUF — это локальная GGUF-версия модели на базе IFM/K2-Horizon-7B, опубликованная пользователем geantendormi. В модель предварительно объединён адаптер Uno, после чего выполнена процедура удаления отказов и квантование с использованием iMatrix и IQ4_XS. Она предназначена для текстовой генерации, локального запуска через llama.cpp и работы на потребительских видеокартах, включая RTX 3060 с 12 ГБ видеопамяти. Модель имеет размер 7B параметров, поддерживает китайский и английский языки, использует формат GGUF и квантование IQ4_XS с плотностью около 4,25 bpw. Размер основного файла составляет примерно 4,76 ГБ. В README заявлена поддержка контекста до 16 384 токенов, а также высокая скорость инференса на RTX 3060: около 57–59 токенов в секунду при генерации и до 626,5 токена в секунду при предварительной обработке запроса. Для запуска требуется версия llama.cpp с поддержкой архитектуры K2-Horizon. Сильными сторонами являются компактный размер, возможность полностью разместить модель в памяти потребительской видеокарты, двуязычная калибровка и ориентация на генерацию кода и технических текстов. Ограничения включают агрессивное IQ4_XS-квантование, потенциальное снижение качества по сравнению с BF16-версией и зависимость от совместимости llama.cpp с нестандартной архитектурой и токенизацией. README описывает модель как uncensored, поэтому встроенные ограничения на потенциально опасные запросы были намеренно ослаблены; заявленные показатели производительности и качества представлены авторами README и не подтверждены независимой оценкой. Лицензия — Apache 2.0.

Kosmos-EVAA-Franken-Immersive-v41-8B — слитая модель генерации текста на основе архитектуры Llama, созданная jaspionjader с помощью mergekit и метода SLERP. В объединении использованы jaspionjader/knfp-2-8b и jaspionjader/Kosmos-EVAA-Franken-Immersive-v40-8B; версия представлена в формате safetensors и содержит около 7,5 млрд параметров. Модель предназначена для генерации текста и диалогового общения. Метаданные указывают контекст до 131 072 токенов и возможность chat-взаимодействия. Карточка не приводит сведения о целевых языках, специальных предметных областях или результатах оценки качества. Лицензия в предоставленных данных не указана.

jaspionjader/Kosmos-EVAA-v3-8B — объединённая языковая модель семейства Llama, созданная разработчиком jaspionjader с помощью mergekit и метода SLERP из jaspionjader/Auro-Kosmos-EVAA-v2.2-8B и jaspionjader/Kosmos-EVAA-v2-8B. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и распространяется в формате safetensors для Transformers. Модель предназначена для генерации текста и диалогов. Она принимает текст и выдаёт текст; максимальная длина контекста составляет 8192 токена. Данные карточки не дают оснований указать конкретные языки или специализированные области применения. В README не приведены результаты оценки качества или подробные ограничения поведения. Лицензия в доступных данных не указана.

Krakowiak-7B-v3 — текстовая генеративная модель на архитектуре Mistral, опубликованная пользователем szymonrucinski. В README показана загрузка весов через Transformers и применение чат-шаблона токенизатора Mistral-7B-Instruct-v0.1. Модель содержит 7,1 млрд параметров, принимает текст и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и может применяться для ответов на запросы, продолжения текста и создания черновиков. Карточка не описывает отдельную специализацию или поддерживаемые естественные языки. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

Nitral-Archive выпустила модель Kukul-Stanta-0.420-32k-7B-0.2 — объединённую Mistral-модель для генерации текста и диалогов. Она содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и рассчитана на контекст до 32 768 токенов. В README заявлена поддержка изображений: для работы с визуальными входами требуется загрузить файл mmproj из репозитория и использовать актуальную версию Koboldcpp. Метаданные каталога относят модель к генерации текста и подтверждают чат-возможности, но не перечисляют vision среди установленных возможностей. Модель создана слиянием Eris_PrimeV4.20-Vision-32k-7B и KukulStanta-7B. Сведения о лицензии и поддерживаемых естественных языках в предоставленных данных отсутствуют.

ChaoticNeutrals/KukulStanta-7B — слитая причинная языковая модель семейства Mistral с 7,1 млрд параметров, опубликованная в формате safetensors. Карточка указывает на возможность мультимодального использования с изображениями через отдельный файл mmproj и актуальную версию Koboldcpp; подробности о поддерживаемых сценариях работы с изображениями не приведены. Модель предназначена для генерации текста и, судя по результатам Open LLM Leaderboard, оценивалась на задачах рассуждения и понимания текста. Контекстное окно составляет 32 768 токенов. В карточке нет сведений о поддерживаемых языках и лицензии, поэтому условия использования определить нельзя.

DavidAU/L3.1-MOE-2X8B-Deepseek-DeepHermes-e32-uncensored-abliterated-13.7B-gguf — текстовая генеративная модель разработчика DavidAU. Она объединяет компоненты DeepSeek и DeepHermes на базе Llama 3.1 в конфигурации MOE (Mixture of Experts), ориентированной на совместную генерацию, рассуждения и «thinking». Модель предназначена для общего использования, решения задач, мозгового штурма, творческого письма, создания сюжетов и сцен, ролевых сценариев, генерации художественных текстов и контента для взрослой аудитории. Заявлена как uncensored и допускающая ненормативную лексику. Модель работает только с текстом и поддерживает английский язык. Указан контекст до 128k токенов. В README заявлена конфигурация из двух моделей по 8B параметров, суммарно около 16B, сжатая до 13,7B параметров; исходные модели и квантизации подготовлены в Float32. Для работы рекомендуется шаблон Llama 3 Instruct или автоматическая загрузка Jinja-шаблона, встроенного в quant. Поведение рассуждений зависит от формулировки запроса, температуры и выбранных параметров генерации, поэтому результаты могут заметно различаться между запусками. Сильными сторонами заявлены сочетание reasoning-возможностей двух компонентов, универсальность, творческая направленность и способность работать при разных значениях температуры. Ограничения включают вариативность качества и активации рассуждений, возможную многословность и необходимость повторной генерации или декомпозиции сложных задач. README содержит расхождение: в заголовке упоминается 12,8B, тогда как идентификатор и описание модели указывают 13,7B. Лицензия — Apache-2.0.

L3-Aethora-15B — диалоговая языковая модель, созданная Steelskull на основе семейства Llama 3. Это плотная causal language model с 14,5 млрд параметров, архитектурой LlamaForCausalLM и контекстом до 8192 токенов. Модель принимает текст и генерирует текст в формате запросов L3. Модель предназначена для диалогов и генерации ответов с акцентом на более податливое и содействующее поведение. В основе — изменённая сборка AbL3In-15b слиянием моделей, затем дообученная в течение четырёх эпох методами RS-LoRA и DoRA на датасете Aether-Lite-V1.2 примерно из 82 тысяч примеров. Репозиторий содержит веса Safetensors; доступны отдельные GGUF-квантизации. Лицензия — Llama 3. README описывает ослабление отказов, поэтому модель может отвечать на запросы, которые другие модели отклоняют; ответы требуют проверки, особенно при использовании в чувствительных сценариях. Языки обучения и качество на конкретных языках в карточке не уточняются.

SvalTek/L3-ColdBrew-Euclidean — объединённая языковая модель семейства Llama, созданная с помощью mergekit методом breadcrumbs_ties. В объединении использованы SvalTek/L3-ColdBrew-Arcadia как базовая модель и SvalTek/L3-ColdBrew-OldSpice; в README указан вес 0,7 для OldSpice. Модель содержит 9,2 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; библиотека для работы — Transformers. Модель предназначена для генерации текста и ведения диалогов. Контекст составляет до 8192 токенов. Данные не уточняют языки, на которых модель специально обучена, её сильные стороны или ограничения по качеству. Лицензия в предоставленных данных не указана.

Theros/L3-ColdBrew-SpicyR1-test — текстовая генеративная модель, созданная объединением предварительно обученных языковых моделей с помощью mergekit и метода Model Stock. В качестве базовой модели указана SvalTek/L3-ColdBrew-SpicyReflect; в объединение также вошли Theros/L3-ColdBrew-CoT-R1-test, Theros/L3-ColdBrew-R1-test1 и Etherll/llama3.1-8b-reflection-lora. Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для диалоговой генерации текста и может применяться для ответов на вопросы, ведения беседы и составления текстов. Карточка не сообщает о специализированной предметной области или перечне поддерживаемых естественных языков. Файлы доступны в формате safetensors; в конфигурации слияния указан тип bfloat16. Лицензия в предоставленных данных не указана.

QuantFactory/Lama-DPOlphin-8B-GGUF — это квантизированная версия модели CultriX/Lama-DPOlphin-8B, созданная QuantFactory с использованием llama.cpp. В основе лежит cognitivecomputations/dolphin-2.9.4-llama3.1-8b — авторегрессионная языковая модель семейства Llama с примерно 8 млрд параметров, предназначенная для генерации текста и диалоговых сценариев. Модель дообучалась методом Direct Preference Optimization (DPO) на наборе mlabonne/orpo-dpo-mix-40k-flat с использованием QLoRA и шаблона чата ChatML. В конфигурации обучения указана длина последовательности 2048 токенов. Заявленный язык — английский. Формат GGUF и квантизация делают модель более подходящей для локального запуска с ограниченными ресурсами, однако конкретный уровень квантизации в карточке не указан, поэтому нельзя точно оценить требования к памяти и возможную потерю качества. Модель ориентирована на текстовую генерацию, следование инструкциям и диалоговое использование. К ограничениям относятся отсутствие заявленной поддержки других языков, неопределённые характеристики производительности и качества на различных типах задач, а также отсутствие подробных данных о доступных вариантах квантизации. Лицензия — Apache 2.0.

Laser-Dolphin-Mixtral-2x7b-DPO — экспериментальная языковая модель macadeliccc, созданная на основе cognitivecomputations/dolphin-2.6-mistral-7b-dpo-laser с применением процесса laser и конфигурации слияния Mergekit. В метаданных указана архитектура Mixtral MoE на базе Transformers, 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и решения широкого круга языковых задач, включая ответы на вопросы, рассуждения и математику. В README приведены результаты оценок на наборах AGIEval, GPT4All, TruthfulQA, Bigbench и GSM8K; автор сообщает об улучшении среднего результата примерно на один пункт относительно предыдущей версии. Упоминаются ChatML, запуск через Ollama и сторонние квантованные варианты, однако Function Calling указан как будущая цель. Автор характеризует процесс создания как экспериментальный, поэтому качество ответов может варьироваться. Модель распространяется по лицензии Apache-2.0.

Это структурно прореженная на 50% версия языковой модели openai/gpt-oss-120b, подготовленная автором jayzou3773 методом Less-is-MoE на основе среднего абсолютного градиента. Из слоёв FFN маршрутизируемых экспертов удалена половина нейронов; архитектура — GPT-OSS MoE с причинным языковым моделированием. В репозитории опубликованы веса SafeTensors, а исходный чекпойнт MXFP4 перед прореживанием был деквантизирован до BF16. Модель предназначена для генерации текста и диалогового применения. Для отбора нейронов использованы 128 калибровочных примеров, последовательности длиной 8192 токена и настройки загрузчика из исходного метода; обновления оптимизатора не выполнялись. Каталог указывает 2,1 млрд параметров и контекст до 131072 токенов. Лицензия — Apache-2.0.

Это набор GGUF-квантизаций модели Llama-3.1_OpenScholar-8B, подготовленный пользователем bartowski на основе модели OpenScholar/Llama-3.1_OpenScholar-8B. Квантизация выполнена с помощью llama.cpp версии b4132 и метода imatrix. Модель предназначена для генерации текста и локального запуска, в частности через LM Studio и совместимые инструменты llama.cpp. В составе доступны варианты от F16 до низкобитных Q2 и IQ-квантизаций, с размерами файлов примерно от 3,69 до 16,07 ГБ. Более высокие уровни квантования обеспечивают лучшее сохранение качества, а компактные варианты требуют меньше оперативной памяти, но могут заметнее уступать по качеству. Для некоторых файлов указана оптимизация под ARM или AVX; отдельные варианты не рекомендуются для Mac или GPU. Модель работает с текстом, поддерживает английский язык, а формат prompt соответствует шаблону Llama 3.1. Размер контекста и точная архитектура в README не указаны. Распространение заявлено по лицензии Apache-2.0. Ключевые ограничения связаны с компромиссом между размером файла, требованиями к памяти и качеством, зависящим от выбранного типа квантования.

Llama-3.1-SuperNova-Lite-IMat-GGUF — набор GGUF-квантизованных версий модели arcee-ai/Llama-3.1-SuperNova-Lite, подготовленный пользователем legraphista. Модель предназначена для генерации текста и локального запуска через llama.cpp. В README указано, что исходные веса имеют формат BF16, а квантизация выполнена с помощью llama.cpp версии b3726. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и ряда IQ-квантов размером примерно от 3,18 до 16,07 ГБ. Для многих вариантов применена IMatrix-квантизация, призванная повысить качество при уменьшенной точности; также доступен отдельный файл imatrix.dat. Это позволяет выбирать компромисс между качеством, требованиями к памяти и скоростью локального вывода. Модель относится к текстовым моделям и заявлена для английского языка. README не сообщает точное число параметров, архитектурные детали, размер контекста и результаты тестирования, поэтому эти характеристики нельзя достоверно оценить по имеющимся данным. К ограничениям относятся зависимость качества и требований к ресурсам от выбранного варианта квантизации, а также отсутствие заявленной мультимодальности. Лицензия указана как llama3.

Это GGUF-квантизированная версия языковой модели Llama-3.1-WhiteRabbitNeo-2-70B, разработанной WhiteRabbitNeo и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения, включая LM Studio. В README указано использование формата prompt, совместимого с Llama 3. Модель основана на архитектуре Llama 3.1 с 70 миллиардами параметров. Доступны варианты квантования от Q8_0 до IQ1_M, различающиеся размером файлов, требованиями к памяти и качеством генерации; наиболее рекомендуемыми названы Q6_K, Q5_K_M и Q4_K_M. Квантизация выполнена с использованием imatrix и набора данных bartowski. Модель поддерживает текстовую генерацию, однако сведения о языках, размере контекстного окна и мультимодальности в README не указаны. Сильной стороной являются различные уровни квантования, позволяющие выбирать баланс между качеством и потреблением памяти, а также возможность локального использования. Низкобитные варианты заметно уступают по качеству, а некоторые из них не рекомендуются. Модель распространяется по лицензии llama3.1; дополнительные ограничения и условия лицензии в README не раскрыты.

Magpie-Align разработала Magpie-Align/Llama-3-8B-Magpie-Pro-SFT-300K-v0.1 — плотную авторегрессионную языковую модель семейства Llama 3, дообученную методом SFT на наборе Magpie-Pro-300K-Filtered. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Она предназначена для генерации текста в диалоговом формате и выполнения инструкций; для лучшего качества диалога рекомендуется официальный шаблон чата Llama 3. По данным README, на отдельных задачах модель показывает результаты, сопоставимые с Llama-3-8B-Instruct, в частности в оценках AlpacaEval 2 и Arena Hard. В карточке указана поддержка английского языка. Модель распространяется по лицензии Meta Llama 3 Community License; перед применением необходимо соблюдать её условия.

llama-3-8b-slow-DUS-max-layer-method2 — объединённая модель на архитектуре Llama, созданная ryan0712 с помощью LazyMergekit из двух моделей: ryan0712/llama-3-8b-slow-DUS-max-layer1-method2 и ryan0712/llama-3-8b-slow-DUS-max-layer2-method2. При слиянии использован метод SLERP с настройками смешивания для слоёв self-attention и MLP. Модель предназначена для генерации текста и диалоговых сценариев на основе текстовых запросов. В репозитории указаны веса Safetensors в формате bfloat16. Метаданные сообщают о 4 млрд параметров и контекстном окне до 8192 токенов. Использование регулируется лицензией Llama 3; применяйте модель в соответствии с её условиями. Данных о специализированной предметной области или языковой специализации нет.

Карточка модели princeton-nlp/Llama-3-Base-8B-SFT-KTO на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Base-8B-SFT, поэтому описание составлено по ней. princeton-nlp/Llama-3-Base-8B-SFT — разговорная модель генерации текста на архитектуре Llama, опубликованная как часть работы SimPO: Simple Preference Optimization with a Reference-Free Reward. Репозиторий содержит модель на 7,5 млрд параметров в формате safetensors; заявленная длина контекста — 8192 токена. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на запросы и ведения беседы. README отсылает к репозиторию SimPO за дополнительными сведениями. Лицензия и конкретные языковые возможности в предоставленных данных не определены.

llama-3-bophades-v2-8B — разговорная модель генерации текста, разработанная автором репозитория и созданная дообучением llama-3-sauce-v1-8B на наборах предпочтений jondurbin/truthy-dpo-v0.1 и kyujinpy/orca_math_dpo с помощью Direct Preference Optimization. В карточке также указана связь с Llama 3; метаданные описывают архитектуру как плотную LlamaForCausalLM с 7,5 млрд параметров. Модель предназначена для диалоговой генерации текста, включая ответы на вопросы и математические рассуждения. Она принимает текст и выдаёт текст, поддерживает контекст до 8192 токенов и опубликована в формате safetensors для Transformers. Модель создана на основе llama-3-sauce-v1-8B; карточка указывает лицензию META LLAMA 3 COMMUNITY LICENSE AGREEMENT, а в метаданных лицензия обозначена как other. Перед применением следует ознакомиться с условиями лицензии Meta Llama 3. Данных о специальных ограничениях качества или безопасности в карточке нет.

llama-3-bophades-v3-8B — дообученная разговорная модель семейства Llama 3, опубликованная nbeerbower. Она основана на nbeerbower/llama-3-wissenschaft-8B и дообучена на наборах jondurbin/truthy-dpo-v0.1 и kyujinpy/orca_math_dpo; в карточке также описан метод Direct Preference Optimization (DPO). Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста и диалогов, в том числе для ответов на вопросы и решения математических задач. В репозитории указаны веса Safetensors и библиотека Transformers. README ссылается на лицензию META LLAMA 3 COMMUNITY LICENSE AGREEMENT; метаданные обозначают лицензию как other.

Llama-3-Hercules-5.0-8B-GGUF — квантизированная версия языковой модели Llama-3-Hercules-5.0-8B, разработанной Locutusque и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев при работе через llama.cpp и совместимые инструменты. В README указан специальный шаблон промпта с ролями system, user и assistant. Модель содержит 8 миллиардов параметров и поставляется в нескольких вариантах квантизации GGUF: от высококачественного Q8_0 до крайне компактных IQ1 и IQ2. Варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4 рекомендуется использовать как компромисс между качеством и требованиями к памяти; более низкие уровни квантизации экономят ресурсы, но снижают качество. Квантизация выполнена с использованием imatrix и llama.cpp версии b2940. В README не указаны поддерживаемые языки, размер контекстного окна, мультимодальные возможности и результаты бенчмарков, поэтому эти характеристики нельзя достоверно определить. Модель работает только с текстом в рамках заявленного pipeline text-generation. Лицензия указана как llama3; условия её применения следует уточнять в лицензии исходной модели и соответствующих положениях Meta.

Llama-3-Instruct-8B-SimPO-ExPO — диалоговая языковая модель на архитектуре Llama 3, созданная экстраполяцией весов SFT- и DPO/RLHF-чекпойнтов. В README указаны базовые модели princeton-nlp/Llama-3-Instruct-8B-SimPO и meta-llama/Meta-Llama-3-8B-Instruct; коэффициент экстраполяции ExPO составляет 0,3. Модель предназначена для генерации ответов в чате с улучшенным соответствием предпочтениям людей. Размер модели — 7,5 млрд параметров, контекст — 8192 токена. В карточке указана поддержка английского языка и лицензия Llama 3. В README сообщается о результатах оценки на AlpacaEval 2.0 и MT-Bench, включая небольшое улучшение относительно исходного SimPO-чекпойнта на AlpacaEval 2.0. Эти результаты относятся к указанным бенчмаркам и сами по себе не гарантируют качество на других задачах.

Llama-3-Open-Ko-8B-Instruct-kookmin2 — дообученная языковая модель, опубликованная sungjineeee на основе beomi/Llama-3-Open-Ko-8B. Она предназначена для генерации текста и диалогового общения. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекстное окно 8192 токена. Модель принимает текст и генерирует текст. Базовая модель продолжила предобучение на корейских и англоязычных текстах; карточка этой версии не уточняет языковой охват дообучения. Для обучения использовались Unsloth и библиотека Hugging Face TRL. Лицензия — Apache-2.0. README не приводит оценок качества или конкретных ограничений применения.

Llama-3-Smaug-8B-GGUF — набор GGUF-квантизаций модели Llama-3-Smaug-8B, опубликованный и квантизированный bartowski на основе оригинальной модели abacusai/Llama-3-Smaug-8B. Модель предназначена для генерации текста и локального запуска с совместимыми inference-движками, включая llama.cpp. В README приведён специальный chat-шаблон с системными, пользовательскими и ассистентскими сообщениями на основе токенов Llama 3. Это текстовая модель примерно на 8B параметров; модальности, поддерживаемые языки и размер контекста в README не указаны. Доступны варианты квантизации от Q8_0 до IQ1_S размером примерно от 8,54 до 2,01 ГБ. Более высокие уровни квантизации обычно сохраняют лучшее качество, тогда как низкие требуют меньше RAM или VRAM, но заметно уступают по качеству; автор рекомендует несколько вариантов Q6_K, Q5 и Q4, а наиболее низкие IQ1-варианты не рекомендует. Квантизация выполнена с использованием imatrix и набора данных Kalomaze; для Q8_0 указано максимальное доступное качество. Модель удобна для локального использования благодаря формату GGUF и широкому выбору размеров файлов, однако качество и требования к памяти зависят от выбранной квантизации. README также отмечает настройку токена <|eot_id|> как не специального для лучшей работы с современными inference-движками. Лицензия указана как llama2; дополнительные условия использования в README не раскрыты.

Cas-Warehouse выпустила объединённую разговорную языковую модель Llama 3 с 7,5 млрд параметров. Она создана методом Model Stock в mergekit на основе failspy/Llama-3-8B-Instruct-MopeyMule с включением моделей Aura_Llama3, Luna_Llama3, RP_Format_QuoteAsterisk_Llama3, Smarts_Llama3 и BlueMoon_Llama3. Модель предназначена для генерации текста и диалоговых ответов. Её можно применять в разговорных интерфейсах и для создания текстовых ответов на запросы. Архитектура — плотная авторегрессионная LlamaForCausalLM; модель использует библиотеку Transformers, распространяется в формате safetensors и рассчитана на контекст до 8192 токенов. Базовая модель ориентирована на английский язык; отдельные сведения о языковых возможностях именно этого слияния не приведены. Слияние объединяет несколько разговорных и ролевых вариантов Llama 3, но README не приводит сравнительных оценок качества или подробных рекомендаций по настройке. Условия лицензирования в предоставленных данных не указаны.