II.1Анализ требований и архитектура ПО

PocketWeights/Gemma-4-12B-agentic-abliterated-GGUF — это квантизированная в формате GGUF версия 12-миллиардной модели на архитектуре Gemma, разработанной Google. К использованной базовой модели Huihui-gemma-4-12B-agentic-fable5-abliterated применены дообучение и методы удаления отказов от huihui-ai / yuxinlu1; сборку и оптимизацию GGUF выполняет PocketWeights. Модель предназначена для генерации текста, диалогов, многошагового планирования, декомпозиции сложных запросов, структурированного вывода, агентских сценариев и использования инструментов или function calling. Заявлены возможности технического анализа, автономного выполнения многошаговых целей, red-teaming и творческого письма. Поддерживаемые модальности и языки в README не указаны; контекстное окно также не заявлено. Доступны варианты IQ3_M размером 5,73 ГБ, рассчитанный примерно на 6 ГБ VRAM или 8 ГБ RAM, и Q4_K_M размером 7,38 ГБ, рекомендованный для 8–12 ГБ VRAM или 16 ГБ RAM. Ключевое преимущество — сочетание 12B-параметров с локальным запуском на потребительском оборудовании. Ограничение — удалённые защитные механизмы, поэтому модель может генерировать небезопасный контент и рекомендуется для авторизованных исследований безопасности, симуляций red-teaming и локальных изолированных сред. Модель распространяется по Gemma Terms of Use / Open Model License; конкретные условия применения следует проверять в тексте лицензии.

Это GGUF-сборка модели Gemma 4 26B A4B IT, подготовленная FreedomAISVR из Google Gemma 4. Модель основана на инструкционно дообученной архитектуре MoE с 26 млрд параметров, из которых для каждого токена активны около 4 млрд; в описании указаны 128 экспертов и выбор 8 экспертов на токен. Модель предназначена для диалогов и генерации текста, а дополнительный файл mmproj содержит мультимодальный проектор для анализа изображений. Веса представлены в формате GGUF с квантизацией NVFP4, размер текстовой модели — около 13,45 ГБ; проектор изображения поставляется отдельно в F16 и занимает около 1,11 ГБ. Для оптимальной производительности NVFP4 требуется сборка llama.cpp с поддержкой CUDA и видеокарта NVIDIA Blackwell; запуск на CPU возможен, но медленнее. README также описывает гибридное внимание со скользящими локальными и глобальными слоями. Лицензия — Gemma; перед использованием следует соблюдать её условия.

peasantsmith/gpt-oss-120b-PS-IQ4_NL.gguf — это квантизированная версия модели gpt-oss-120b от OpenAI, подготовленная PeasantSmith и BlackFrost AI в формате GGUF для задач генерации текста. Модель использует архитектуру mixture-of-experts; исходные данные README не содержат точных сведений о числе параметров активной части, поддерживаемых языках и модальностях, а также о максимальном контексте. Указано, что вариант IQ4_NL занимает около 71,75 ГБ и имеет показатель 4,91 BPW, поэтому для запуска требуется значительный объём оперативной или видеопамяти. Модель предназначена для локального применения в совместимых средствах инференса, включая llama.cpp, и подходит для диалоговой генерации, ответов на фактические вопросы, программирования и задач, требующих работы с контекстом до 8192 токенов в приведённых тестах. Разработчики сообщают об успешной проверке генерации, реализации LRU-кэша, извлечения значения из контекста длиной 8K и отсутствии ошибок выполнения. Для работы требуется учитывать специальный формат ответов harmony, а результаты тестирования не заменяют независимую оценку качества. Рекомендуемые параметры — temperature 1.0, top-k 0 и top-p 1.0. Это производная квантизация, поэтому лицензия и условия использования определяются лицензией исходной модели gpt-oss-120b от OpenAI и должны быть проверены перед распространением.

gradientai-Llama-3-8B-Instruct-262k-GGUF — набор квантованных файлов модели gradientai/Llama-3-8B-Instruct-262k, подготовленный организацией Featherless AI Quants. Модель относится к классу text-generation и предназначена для генерации текста и выполнения инструкций в сценариях локального или совместимого с GGUF инференса. Известно, что это 8-миллиардная instruct-модель семейства Llama 3 с заявленным контекстом до 262 тысяч токенов. README не указывает поддерживаемые языки, точную архитектуру, мультимодальные возможности, результаты оценки или специальные сценарии применения. Доступны варианты квантования Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_K_S, Q4_K_M, IQ4_XS, Q5_K_S, Q5_K_M, Q6_K и Q8_0; их размер составляет примерно от 3,0 до 8,1 ГБ, что позволяет выбирать компромисс между требованиями к памяти и сохранением качества. Сильными сторонами модели являются большой заявленный контекст и широкий выбор GGUF-квантований, подходящих для разных аппаратных конфигураций. Ограничения README не раскрывает: отсутствуют сведения о качестве, скорости, требованиях к оборудованию, языковом покрытии и поведении на конкретных задачах. Лицензия в предоставленных данных не указана.

Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF — это квантизированная версия текстовой генеративной модели Gryphe/Pantheon-Reasoning-26B-A4B-1.1-V2, подготовленная пользователем bartowski в формате GGUF с использованием llama.cpp. Модель предназначена для диалоговых и инструкционных сценариев, рассуждений, ролевого общения и творческого письма. Заявлена поддержка английского языка и текстовых входных данных. Модель содержит около 27 млрд параметров. Для неё доступны веса в формате BF16 и несколько вариантов квантизации от Q3 до Q8, включая рекомендуемый Q4_K_M размером 18,75 ГБ, а также более качественные Q5 и Q6. Используется imatrix-квантизация; спекулятивное декодирование не поддерживается. Контекстное окно и архитектурные детали в README не указаны, поэтому их характеристики нельзя оценить по предоставленным данным. Сильными сторонами являются широкий выбор вариантов размера и качества, возможность локального запуска через совместимые инструменты GGUF и оптимизация для различных ограничений по памяти. Более компактные варианты экономят ресурсы, но могут уступать старшим квантизациям по качеству. Лицензия модели указана как Apache-2.0.

h2ogpt-4096-llama2-70b-chat — чат-модель для генерации текста, созданная H2O.ai как клон Meta Llama 2 70B Chat. Она предназначена для диалога с пользователем и сравнения ответов языковых моделей; также её можно использовать для общения с документами в приложении h2oGPT. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 68,7 млрд параметров. Она принимает и генерирует текст, поддерживает английский язык и имеет контекст длиной до 4096 токенов. Веса доступны в форматах PyTorch и Safetensors. Модель распространяется по лицензии Llama 2. Карточка не описывает отдельные результаты оценки качества или специальные ограничения применения.

Edens-Gate/Holland-Magnum-Merge-R2 — диалоговая языковая модель, созданная методом task arithmetic с помощью mergekit на основе Delta-Vector/Holland-4B-V1 и с участием anthracite-org/magnum-v2-4b и NewEden/Holland-V2. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 3,9 млрд параметров. Она предназначена для генерации текста и диалоговых ответов; заявленная длина контекста — 131 072 токена. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Сведения о лицензии в предоставленных данных отсутствуют.

Ice0.27-06.11-RP — объединённая языковая модель, созданная автором репозитория с помощью mergekit методом SLERP из двух предварительно обученных моделей. Это плотная Mistral-модель с архитектурой MistralForCausalLM и 7,1 млрд параметров; она предназначена для генерации текста и диалогового общения. Модель принимает текст и выдаёт текст, а указанная длина контекста составляет 32 768 токенов. В карточке приведены локальные пути исходных моделей, поэтому их идентификаторы Hugging Face нельзя надёжно установить. Репозиторий содержит веса safetensors в формате bfloat16. Дата публикации — 6 ноября 2024 года. Сведения о лицензии, поддерживаемых языках и специальных предметных областях в доступных данных отсутствуют.

ClaudioItaly/Intelligence-7 — объединённая плотная языковая модель семейства Qwen2, созданная с помощью mergekit методом SLERP из AIDC-AI/Marco-o1 и happzy2633/qwen2.5-7b-ins-v3. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в диалоговом формате; контекстное окно — до 32 768 токенов. Модель подходит для ведения диалогов и генерации ответов на текстовые запросы. В конфигурации слияния указана V-образная кривая, сочетающая поведение исходных моделей на входных и выходных слоях с вкладом WizardMath в средних слоях. Данные об отдельных языковых специализациях и прикладных областях не приведены. Модель опубликована в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана. Качество и ограничения унаследованы от объединённых моделей; отдельные оценки или сведения об ограничениях модели не приведены.

InternLM2.5-7B-Chat-1M-GGUF — это квантизированная версия чат-модели internlm2_5-7b-chat-1m, разработанной командой InternLM и преобразованной в формат GGUF пользователем bartowski. Квантизация выполнена с помощью llama.cpp версии b3278 и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы пользователя при локальном запуске через совместимое программное обеспечение, например llama.cpp. Модель имеет около 7 миллиардов параметров и заявленное контекстное окно до 1 миллиона токенов, что делает её ориентированной на работу с очень длинными документами и продолжительными диалогами. Доступно множество вариантов квантизации от Q8 до Q2 и IQ-семейства, с размером файлов примерно от 2,77 до 8,93 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, а низкие позволяют сократить требования к памяти. Для взаимодействия используется специальный шаблон prompt с ролями system, user и assistant. Сильными сторонами являются поддержка длинного контекста, широкий выбор компромиссов между качеством и размером, а также возможность локального запуска в формате GGUF. Низкие уровни квантизации могут заметно снижать качество, а экспериментальные варианты с F16 для embedding- и output-весов требуют дополнительной проверки. Языки, точная архитектура, требования к оборудованию и результаты бенчмарков в README не указаны. Лицензия обозначена как other; конкретные условия использования необходимо уточнять в исходной модели и сопутствующих материалах.

InternLM2-Chat-1.8B-SFT — диалоговая языковая модель команды InternLM, созданная контролируемой тонкой настройкой базовой InternLM2-1.8B. Она содержит около 1,7 млрд параметров, использует плотную архитектуру InternLM2 и рассчитана на генерацию текста в формате чата. Метаданные указывают контекст до 32 768 токенов; в README также заявлена поддержка длинных входов до 200 000 символов для семейства InternLM2. Модель подходит для диалоговых помощников, ответов на вопросы, следования инструкциям и генерации текста. Семейство также улучшено для рассуждений, математики и программирования, однако версия SFT уступает последующей версии InternLM2-Chat, дополнительно выровненной с помощью RLHF и рекомендованной авторами для прикладного использования. Модель можно загружать через Transformers; в README также описано развёртывание через vLLM и LMDeploy. Карточка предупреждает, что модель может выдавать предвзятые, дискриминационные или иным образом вредоносные ответы. Код распространяется по Apache-2.0; для весов заявлен свободный доступ для академических исследований и возможность запросить бесплатное коммерческое разрешение.

Это преобразованная в формат архитектуры Llama версия InternLM2 Chat 7B SFT, размещённая пользователем bartowski. Модель предназначена для генерации текста в диалоговом формате и может использоваться для ответов на запросы и ведения беседы. Модель содержит 7,4 млрд параметров и поддерживает контекст длиной до 32 768 токенов. README сообщает о конвертации из InternLM в формат Llama; в репозитории указан формат safetensors. Лицензия обозначена как other, поэтому условия её использования следует проверять в исходной карточке модели и у базовой модели.

silence09 опубликовал преобразованную версию InternLM3-8B-Instruct, представленную в формате архитектуры Qwen2 для совместимости с некоторыми сценариями инференса и классом Qwen2ForCausalLM. Модель содержит 8,3 млрд параметров, использует плотную архитектуру и сохраняет точность исходных весов. Контекст — до 32 768 токенов; поддерживается диалоговое использование и генерация текста. Модель предназначена для запуска запросов к исходной InternLM3-8B-Instruct в окружениях, рассчитанных на Qwen2. Базовая модель ориентирована на общие запросы, работу со знаниями и сложные рассуждения. Репозиторий распространяется по лицензии Apache-2.0.

Rev3auth/iris_16bit — текстовая диалоговая модель, разработанная Rev3auth на основе дообучения unsloth/gemma-3-270m-it. Она использует плотную архитектуру Gemma 3 с причинной языковой моделью и содержит 257 млн параметров. Модель предназначена для генерации текста и диалогов; базовая модель подходит для ответов на вопросы и суммаризации. Контекст — до 32 768 токенов. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка не описывает специализацию дообучения или сравнительные результаты, поэтому качество на конкретных задачах следует оценивать отдельно.

Issue Writer — это дообученная на базе Gemma 4 E4B Instruct модель для преобразования исходного описания продукта в структурированную запись для системы отслеживания задач. Она формирует один JSON-объект и предназначена для сценариев, где нужно оформлять сообщения в задачи с фиксированной схемой на английском или турецком языке. Модель основана на плотной архитектуре Gemma4 и использует объединённые с базовыми весами LoRA-параметры: обучение с рангом 32 и alpha 64 затрагивало текстовые слои внимания и MLP. Обучение проведено на 13 000 примерах, поровну на английском и турецком; в README рекомендуется использовать заданный системный промпт и жадное декодирование, чтобы сохранять корректный JSON. Формат репозитория — safetensors, лицензия Apache-2.0. На кратких или неполных исходных данных модель должна заполнять поля assumptions и clarifying_questions, однако README предупреждает, что пустые значения могут означать, что модель молча додумала недостающие сведения. Размер контекста в карточке не указан; пример запуска vLLM задаёт ограничение в 8192 токена.

Carnice-V3-GGUF — это квантизированная GGUF-версия модели Carnice-V3, разработанной kai-os и подготовленной bartowski с использованием llama.cpp. Модель рассчитана на задачи генерации текста, агентские сценарии и взаимодействие с инструментами; в метаданных также указана поддержка image-text-to-text и тегов tool-use и agent. Модель содержит 28 млрд параметров и принимает текст, а также изображения при использовании специального mmproj-файла. Поддерживается английский язык. Доступны speculative decoding через MTP и квантизация с imatrix. Представлено множество вариантов квантизации от BF16 и Q8_0 до более компактных Q2/Q3/Q4/Q5/Q6, что позволяет выбирать баланс между качеством, размером файла и требованиями к памяти. Для большинства сценариев автор рекомендует Q4_K_M как сбалансированный вариант, а Q6_K и Q6_K_L — для более высокого качества. К сильным сторонам относятся большой размер, мультимодальный ввод, поддержка агентских задач и инструментов, а также широкий выбор квантизаций. Ограничениями являются значительный объём файлов, необходимость совместимого ПО на базе llama.cpp и mmproj-файла для обработки изображений; качество также зависит от выбранного уровня квантизации. Модель распространяется по лицензии Apache-2.0.

Kaori-70b-v1 — языковая модель семейства Llama с 68,7 млрд параметров, дообученная Kaeri и Jenti методом QLoRA. Модель предназначена для генерации текста; при разработке использовались наборы данных Open-Platypus, Dolphin и OpenOrca. Модель принимает текст и генерирует текст. Её контекст составляет 4096 токенов. Карточка указывает лицензию Llama 2; применимость этой лицензии следует учитывать при использовании и распространении модели.

kstc-1-8b — слитая языковая модель, созданная автором jaspionjader с помощью mergekit. В основе архитектура Llama с плотной структурой и классом LlamaForCausalLM; размер модели — 7,5 млрд параметров, формат весов — safetensors, длина контекста — до 131 072 токенов. Модель предназначена для генерации текста и диалогового общения. Её можно использовать для ведения беседы и создания текстовых ответов в задачах с длинным контекстом. В слияние вошли jaspionjader/Kosmos-EVAA-Franken-Immersive-v39-8B, v40-8B и v41-8B; в README указаны метод Model Stock и v41-8B как базовая модель. Лицензия и специальные ограничения применения в предоставленных данных не описаны.

Llama-3.1-70B-Hanami-x1 — экспериментальная чат-модель от Sao10K, созданная на основе Euryale v2.2. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для генерации текста в диалоге; в метаданных также заявлен интерфейс вызова инструментов. Автор отмечает, что модель отличается от Euryale v2.2 и предпочитает её предыдущим версиям после собственных проверок. Для моделей Llama 3 автор рекомендует параметр семплирования min_p не ниже 0,1; настройки Euryale v2.1 и v2.2 также подходят. Модель распространяется в формате safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Lelantos-low-tune — объединённая языковая модель на 7,1 млрд параметров от nlpguy, созданная с помощью mergekit методом task arithmetic. В основе объединения лежат DPOpenHermes-7B-v2 и SanjiWatsuki/Lelantos-7B; архитектура — плотная Mistral для авторегрессионной генерации текста. Модель рассчитана на диалог и другие сценарии генерации текста, поддерживает контекст до 32 768 токенов. В README приведены результаты Open LLM Leaderboard: средняя оценка 70,82, включая 67,06 на AI2 Reasoning Challenge и 86,06 на HellaSwag. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка не указывает целевые языки или специализированную область применения.

Lemer — это мультимодальная версия Gemma 4 E2B в формате GGUF, разработанная Lethean и основанная на форке LetheanNetwork/lemer. В модель встроен Lethean Ethical Kernel (LEK): его поведенческие настройки были добавлены через LoRA-файнтюнинг и объединены с весами, поэтому для работы не требуется отдельный PEFT-адаптер. Модель предназначена для диалоговых сценариев, генерации и анализа текста, а также обработки изображений и аудио, включая локальный запуск на устройствах с ограниченными ресурсами. Репозиторий содержит варианты квантования от Q3_K_M до BF16 размером примерно от 3,0 до 8,7 ГБ. Рекомендуемым указан Q4_K_M как компромисс между качеством и размером; Q3_K_M ориентирован на наиболее ограниченные устройства, а BF16 служит полноточной версией. Заявлена поддержка Ollama, llama.cpp, GPT4All, LM Studio и llama-cpp-python. Токенизатор содержит 262 тысячи токенов, однако размер контекстного окна и точный набор поддерживаемых языков в карточке не указаны. Сильными сторонами модели являются единый автономный GGUF-файл, мультимодальность, несколько уровней квантования и ориентация на локальный инференс. Ограничения включают отсутствие в README подробных результатов оценки, точных характеристик архитектуры и контекстного окна, а также потенциальные компромиссы качества при использовании квантованных вариантов. Модель распространяется по лицензии European Union Public Licence 1.2 (EUPL-1.2).

LeoScorpius-7B-Chat-DPO — чат-модель, дообученная viethq188 методом DPO на датасете Nectar на базе viethq188/LeoScorpius-7B. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и рассчитана на генерацию текста; для форматирования запросов в карточке предложен шаблон Alpaca с полями system, Instruction и Response. Модель подходит для диалогов и ответов на инструкции в формате текстового чата. Заявленные в карточке позиции в рейтингах относятся к обновлению от 14 декабря 2023 года. Контекстное окно составляет 32 768 токенов. Модель распространяется по лицензии Apache-2.0.

Карточка модели sirev/LFM2-2.6B-Uncensored-X64 на Hugging Face совпадает с карточкой Justbackup/LFM2-2.6B-Uncensored-X64, поэтому описание составлено по ней. LFM2-2.6B-Uncensored-X64 — разговорная версия языковой модели LiquidAI/LFM2-2.6B, опубликованная Justbackup. Это плотная авторегрессионная модель семейства LFM2 с примерно 2,4 млрд параметров, доступная в формате safetensors и рассчитанная на контекст до 128 000 токенов. Модель предназначена для генерации текста и диалогов; карточка называет её uncensored-версией базовой модели и приводит результаты нескольких тестов на общие знания и рассуждение. Её можно использовать для ответов на вопросы, диалоговых ассистентов и работы с длинными текстовыми запросами. README показывает формат чата, совместимый с использованием в Transformers. В карточке указана лицензия Apache-2.0. Модель не следует считать проверенной для задач с высокими требованиями к точности: опубликованные тесты ограничены несколькими бенчмарками, а результаты могут зависеть от точности вычислений и конфигурации запуска.

manojpreveen/Llama-2-70b-hf-ChatOrca-v1 — языковая модель, дообученная автором на базе Meta Llama 2 для диалогов и рассуждений. Она использует плотную архитектуру LlamaForCausalLM и содержит 68,7 млрд параметров. В README указано обучение на смеси данных Orca, открытых многоходовых диалогов, включая OpenAssistant и UltraChat, и OpenPlatypus. Модель предназначена для генерации ответов в чате, поддержания многоходового диалога и решения задач, требующих рассуждений. Она принимает текстовые запросы в формате чата Meta Llama 2 и выдаёт текст; заявленная длина контекста — 4096 токенов. README не уточняет набор поддерживаемых естественных языков. Модель распространяется под лицензией MIT.

Llama-3.1-Tulu-3-8B-GGUF — набор GGUF-квантизаций языковой модели Llama-3.1-Tulu-3-8B, разработанной Allen Institute for AI (AI2) и опубликованной в формате для локального запуска. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев; указанный в карточке pipeline — text-generation. Для работы рекомендуется формат приглашений с ролями system, user и assistant, а запуск возможен, в частности, через LM Studio или совместимые инструменты llama.cpp. Модель содержит около 8 млрд параметров, поддерживает английский язык и поставляется в вариантах от исходных весов F16 до более компактных Q2–Q8-квантизаций. Размер файлов составляет примерно от 3,5 до 16,1 ГБ; варианты отличаются компромиссом между качеством и требованиями к памяти. Наиболее сбалансированным для большинства сценариев README называет Q4_K_M, а Q5 и Q6 — высококачественными вариантами. Более сильное сжатие уменьшает потребление памяти, но снижает качество, а отдельные варианты оптимизированы для ARM и имеют ограничения по аппаратной совместимости. Длина контекста и мультимодальные возможности в карточке не указаны. Лицензия обозначена как llama3.1; перед использованием следует учитывать условия лицензии базовой модели.

QuantFactory/Llama-3.1-Tulu-3-8B-SFT-GGUF — квантизированная версия модели Llama-3.1-Tulu-3-8B-SFT, созданная QuantFactory с использованием llama.cpp. Исходную модель разработал Allen Institute for AI (AI2) на базе meta-llama/Llama-3.1-8B и дообучил на смеси общедоступных, синтетических и созданных людьми наборов данных, включая allenai/tulu-3-sft-mixture. Модель предназначена прежде всего для следования инструкциям, диалоговых сценариев и генерации текста на английском языке. Она ориентирована на широкий круг задач, включая общение, MATH, GSM8K и IFEval. Это текстовая авторегрессионная модель; заявленная конфигурация содержит 8 миллиардов параметров. Для запуска предусмотрен формат GGUF, подходящий для экосистемы llama.cpp и совместимых средств инференса. В README рекомендуется ограничивать максимальную длину контекста до 8192 токенов при использовании vLLM, однако точное значение контекстного окна для этой карточки не указано. К сильным сторонам относятся улучшенное instruction following и возможность локального запуска благодаря квантизации и формату GGUF. Ограничения включают преимущественную ориентацию на английский язык, отсутствие мультимодальных возможностей в описании и ограниченную безопасность: модель может генерировать проблемные ответы, поскольку не оснащена полноценной фильтрацией ответов в процессе использования. Модель распространяется по Llama 3.1 Community License Agreement; условия исходной лицензии необходимо учитывать при применении квантизированной версии.

bunnycore/Llama-3.2-3B-Deep-Test — объединённая языковая модель разработчика bunnycore, созданная из четырёх моделей семейства Llama с помощью mergekit и метода DARE TIES. В качестве базовой использована bunnycore/Llama-3.2-3B-RP-DeepThink; в объединение также вошли bunnycore/Llama-3.2-3B-All-Mix, bunnycore/Smol-Llama-3.2-3B и prithivMLmods/Llama-Deepsync-3B. Модель с архитектурой LlamaForCausalLM содержит 3,2 млрд параметров, принимает текст и генерирует текст. Заявленная длина контекста — 131 072 токена. Подходит для диалогов, ролевых сценариев, развёрнутых рассуждений, ответов на вопросы и суммаризации. Модель распространяется в формате safetensors для Transformers; условия лицензии в предоставленных данных не приведены.

bunnycore/Llama-3.2-3B-RP-DeepThink — объединённая диалоговая языковая модель, созданная с помощью mergekit методом linear merge. В качестве базовой использована huihui-ai/Llama-3.2-3B-Instruct-abliterated; также в объединение вошли bunnycore/Llama-3.2-3B-All-Mix и prithivMLmods/Codepy-Deepthink-3B. Модель основана на архитектуре LlamaForCausalLM, содержит 3,2 млрд параметров и работает с текстом; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста и ответов в диалоге, включая сценарии, где полезны смешанные возможности объединённых моделей. Карточка приводит результаты Open LLM Leaderboard, в том числе IFEval 71,44 и BBH 23,76. Доступна в формате safetensors для Transformers. Лицензия в предоставленных данных не указана.

Llama-3-8B-instruct-x-OrpoLlama-3-8B — объединённая диалоговая модель на базе Llama 3, созданная с помощью LazyMergekit. В конфигурации указаны Llama-3-8B-instruct от AI-Sweden-Models и mlabonne/OrpoLlama-3-8B; применён метод слияния dare_ties с параметрами density 0,53, weight 0,6 и маской int8. Веса сохранены в формате bfloat16. Модель предназначена для диалоговой генерации текста и ответов на запросы в чате. Она содержит около 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 8192 токенов. Метаданные указывают на дообученную базовую модель mlabonne/OrpoLlama-3-8B; описание базовой модели отмечает шаблон ChatML. Сведений о лицензии и поддерживаемых языках в предоставленных данных нет.

QuantFactory/Llama-3-8B-Magpie-Pro-SFT-v0.1-GGUF — квантизированная версия языковой модели Llama-3-8B-Magpie-Pro-SFT-v0.1, созданная с помощью llama.cpp. Исходная модель разработана проектом Magpie-Align на базе Meta Llama 3 8B и дообучена методом supervised fine-tuning на датасете Magpie-Pro-300K-Filtered, содержащем отфильтрованные синтетические инструкции и ответы. Проект Magpie связан с исследователями Zhangchen Xu, Fengqing Jiang, Luyao Niu, Yuntian Deng, Radha Poovendran, Yejin Choi и Bill Yuchen Lin. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций и ответы на пользовательские запросы. Это авторегрессионная текстовая модель с архитектурой LlamaForCausalLM; размер базовой модели — 8 млрд параметров. В README указана длина обучающей последовательности 8192 токена, однако точный контекстный размер готовой GGUF-версии не уточнён. Поддерживается текстовая модальность, список языков не указан. Для наилучшей работы следует использовать официальный chat template Llama 3. По заявленным результатам модель достигает показателей, сопоставимых с Llama-3-8B-Instruct при использовании только SFT: Alpaca Eval 2 — 25,08 LC и 29,47 WR, Arena Hard — 18,9. Ограничения включают отсутствие подробных сведений о языковом покрытии, точном формате и уровне квантизации, а также неполное описание поведения за пределами приведённых тестов. Использование регулируется Meta Llama 3 Community License.