II.1Анализ требований и архитектура ПО

Covasna-0.1 — сжатая обрезкой версия языковой модели migtissera/Tess-70B-v1.6, представленная Mihaiii. Модель семейства Llama предназначена для генерации текста и диалогового общения. Веса хранятся в формате BF16 и SafeTensors; после удаления части слоёв размер модели составляет около 41,3 млрд параметров вместо 69 млрд у исходной модели. Контекст — до 32 764 токенов. Автор описывает отбор слоёв по показателю SNR с помощью laserRMT и их удаление с mergekit. Модель распространяется по лицензии Llama 2. README также ссылается на отдельную версию GGUF, но эта карточка описывает вариант BF16.

CPM-Bee-10B — базовая двуязычная языковая модель OpenBMB на 13,2 млрд параметров. Это плотная авторегрессионная модель на архитектуре Transformer, обученная на корпусе объёмом более триллиона токенов; репозиторий содержит веса PyTorch. Модель ориентирована на китайский и английский языки и предназначена для генерации текста и последующего дообучения под прикладные задачи обработки естественного языка. CPM-Bee можно использовать для продолжения текста и как основу для создания специализированных моделей. В README также описана отдельная дообученная версия с диалоговыми возможностями и поддержкой инструментов; эти возможности не следует считать характеристиками данного базового чекпойнта. Модель выпущена OpenBMB как открытая и пригодная для коммерческого использования; карточка не уточняет конкретную лицензию.

Dans-PersonalityEngine-V1.1.0-12b — англоязычная разговорная модель PocketDoc, дообученная на базе mistralai/Mistral-Nemo-Base-2407. Это плотная авторегрессионная модель Mistral с 12,1 млрд параметров; метаданные указывают контекст до 1 024 000 токенов, тогда как README рекомендует 32 768 токенов. Модель работает с текстом и использует формат диалога ChatML. Модель предназначена для ролевых диалогов, совместного написания историй, текстовых приключений и общего ассистирования. Её также можно использовать для суммаризации, анализа тональности, ответов на вопросы, программирования и вызова инструментов в текстовых сценариях. В описании обучения указаны одноходовые и многоходовые инструкции, диалоги с ролями и примеры использования инструментов. Модель выпущена под лицензией Apache-2.0. README рекомендует температуру 1,0, top-p 0,95 и min-p 0,05. Качество и фактические возможности для отдельных задач не подтверждены оценками; языковая поддержка в карточке обозначена как английская.

Darwin NemotronH v0.1 — экспериментальная языковая модель MC7ever, созданная эволюционным слиянием пяти моделей NemotronH 30B-A3B и адаптера ToolCall LoRA. Веса получены из GGUF-квантизации Q4_K_M с последующим преобразованием в float16. Модель использует гибридную архитектуру NemotronH с блоками Mamba, MoE и attention; в README указаны 52 слоя, 128 экспертов MoE (6 активных) и контекст до 262 144 токенов. Метаданные указывают 1,9 млрд параметров и поддержку диалогового режима. Модель предназначена для генерации текста в диалоге и сценариев, где полезен вызов инструментов. В README описан способ загрузки через Transformers. Метаданные указывают английский язык; других поддерживаемых языков карточка не подтверждает. Это слияние моделей с преобразованием точности, а не обычное дообучение одной базовой модели. README не сообщает лицензию, поэтому условия распространения и коммерческого использования следует уточнить у автора и для компонентов слияния.

ENERGY-DRINK-LOVE/deepnoid_DPOv3 — разговорная языковая модель на архитектуре Llama, дообученная на базе Deepnoid/mergekit_v2. Модель предназначена для генерации текста в диалоговом формате и может применяться для создания ответов в чатах. Модель содержит 10,6 млрд параметров, распространяется в формате safetensors и поддерживает контекст до 4096 токенов. Лицензия — Apache-2.0. В карточке не приведены сведения о датасете, оценках качества и специальных ограничениях применения.

Delexa-7b — языковая модель общего назначения от разработчиков lex-hue. Она построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Модель генерирует текст и рассчитана на контекст до 32 768 токенов; в карточке указана поддержка английского и немецкого языков. Модель предназначена для генерации текста, общих языковых задач и экспериментов с рассуждениями, в том числе STEM-задачами. README описывает её как находящуюся в активной разработке: приведены предварительные оценки, но всесторонняя оценка качества ещё не опубликована. Модель допускает контент для взрослых и откровенный контент; авторы предупреждают о риске вредных, предвзятых и оскорбительных ответов. Лицензия — Apache-2.0.

DictaLM 2.0 Instruct — чат-модель с настройкой на выполнение инструкций, разработанная Dicta. Она дообучена на основе DictaLM 2.0 с использованием наборов разговорных данных и следует рецепту настройки Zephyr-7B-beta с расширенным набором инструкций на иврите. Модель построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для диалогов и генерации ответов по инструкциям, особенно на иврите и английском языке. Она принимает текст и выдаёт текст; длина контекста составляет 32 768 токенов. Для запросов используется шаблон чата с маркерами [INST] и [/INST], также доступный через apply_chat_template(). В карточке модель представлена как демонстрация возможностей дообучения базовой модели. У неё нет механизмов модерации, поэтому ответы могут требовать дополнительного контроля. Лицензия — Apache-2.0.

Alcoft/dnotitia_Smoothie-Qwen3-1.7B-GGUF — это квантованная GGUF-версия языковой модели dnotitia/Smoothie-Qwen3-1.7B, опубликованная пользователем Alcoft. Модель предназначена для генерации текста, диалоговых сценариев, задач NLP и приложений, где важны общение и рассуждение. В README указана поддержка английского языка и текстовая модальность. Модель имеет заявленный размер 1,7 млрд параметров и поставляется в различных вариантах квантования от Q2_K до Q8_K. Размер файлов составляет примерно от 596 МБ до 1,71 ГБ. Для большинства сценариев автор рекомендует варианты Q4_K_M, Q5_K_M или Q6_K: они обеспечивают соответственно приемлемое, высокое и очень высокое качество при разных требованиях к памяти. Варианты Q2 и Q3 характеризуются как низкокачественные и не рекомендуются для большинства пользователей. README не содержит сведений об архитектуре, размере контекста, точных характеристиках обучения, производительности и ограничениях по скорости. Модель распространяется по лицензии Apache-2.0.

ryanu/EEVE-10.8-BOOK-v0.1 — 10,6-миллиардная плотная языковая модель семейства Llama для генерации текста. Модель дообучена методом QLoRA на 5000 примерах для краткого пересказа материалов по общественным и техническим наукам, философии, праву, искусству и другим книжным темам. В README приведены сравнения по ROUGE для задач пересказа книг и научных статей, а также таблица результатов для вопросов и ответов с использованием RAG. Модель принимает текст и генерирует текст; метаданные указывают на разговорные возможности и контекст до 4096 токенов. README предлагает шаблон для краткого пересказа главных аргументов в 3–5 предложениях без повторяющихся формулировок. Модель опубликована в формате safetensors. Лицензия и базовая модель в предоставленных сведениях не указаны.

Это квантованная версия Gemma 1.1 2B IT — компактной instruction-tuned языковой модели, первоначально разработанной Google. Репозиторий bartowski/gemma-1.1-2b-it-GGUF содержит варианты модели в формате GGUF, подготовленные bartowski с использованием llama.cpp для локального запуска и генерации текста. Модель предназначена для диалогов, ответов на вопросы и других задач текстовой генерации; в карточке приведён пример использования для объяснения работы мозга. Размер исходной модели составляет 2 млрд параметров. Доступны варианты квантования от Q8_0 до Q2_K, объёмом примерно от 1,15 до 2,66 ГБ. Более высокие уровни квантования обычно обеспечивают лучшее качество, тогда как варианты Q3 и Q2 рассчитаны на системы с ограниченным объёмом оперативной памяти, но заметно уступают по качеству. Сведения о поддерживаемых языках, длине контекста и других модальностях в README не указаны; по описанию это текстовая модель. Для использования требуется согласие с лицензией Google Gemma на Hugging Face. Ключевые ограничения исходной лицензии и условия коммерческого применения в карточке подробно не раскрыты, поэтому перед использованием необходимо ознакомиться с полным текстом лицензии Gemma. Модель распространяется в нескольких квантованных вариантах, что позволяет подобрать баланс между качеством, размером файла и требованиями к памяти.

Gemma 3 1B IT GGUF — квантизированная версия языковой модели Google gemma-3-1b-it, подготовленная MaziyarPanahi в формате GGUF. Модель предназначена для генерации текста и локального использования через совместимые инструменты, включая llama.cpp, llama-cpp-python, LM Studio и другие приложения для запуска LLM. Ключевая характеристика этой версии — поддержка уровней квантизации от 2 до 8 бит, что позволяет выбирать компромисс между размером файла, требованиями к памяти и качеством генерации. Модель относится к текстовым моделям; сведения о поддерживаемых языках, длине контекста и мультимодальности в README не указаны. GGUF удобен для локального запуска на различных платформах, включая сценарии с GPU-ускорением, серверным режимом и OpenAI-совместимым API. Ограничения включают небольшой размер базовой модели — 1 миллиард параметров — и возможное снижение качества при использовании более агрессивной квантизации. Лицензия в README не указана.

Gemma-4-12B-OBLITERATED-MLX-BF16 — текстовая разговорная модель семейства Gemma 4, подготовленная bsisduck для запуска через MLX-LM на системах Apple Silicon. Это конверсия BF16 без квантизации модели OBLITERATUS/Gemma-4-12B-OBLITERATED; в копии конфигурации тип архитектуры gemma4_unified заменён на gemma4 для совместимости с MLX-LM. Модель предназначена для генерации текста и диалоговых сценариев. Репозиторий содержит веса в формате safetensors и рассчитан на работу с библиотекой MLX-LM. Использование регулируется лицензией Gemma. Карточка не сообщает о специальных областях применения или подробных оценках качества.

Gemma 4 26B A4B IT Assistant — мультимодальная модель с открытыми весами от Google DeepMind, представленная как MTP-драфтер для семейства Gemma 4. Драфтер используется в спекулятивном декодировании: он предсказывает несколько токенов вперёд, а целевая модель проверяет их параллельно. По карточке семейства, этот вариант имеет архитектуру MoE размером 26B A4B и предназначен для инструкционного взаимодействия и ускорения генерации с сохранением качества целевой модели. Модель подходит для диалога, генерации и редактирования текста, программирования, рассуждений и агентных сценариев с вызовом функций. Семейство Gemma 4 принимает текст и изображения, поддерживает анализ видео; заявленная поддержка аудио относится к вариантам E2B, E4B и 12B, поэтому её нельзя переносить на этот чекпойнт. Для 26B A4B в карточке указано контекстное окно до 256K токенов, а семейство обучено на более чем 140 языках. Ключевое назначение этого чекпойнта — снизить задержку генерации в совместимом конвейере спекулятивного декодирования; заявлено ускорение до 3 раз. Для работы требуется целевая модель и поддержка MTP-декодирования, поэтому чекпойнт не является самостоятельной заменой полной модели Gemma 4. Лицензия — Apache 2.0.

Gemma-4-E4B-it-OBLITERATED-mlx-8Bit — языковая модель для генерации текста, разработанная сообществом mlx-community. Она конвертирована в формат MLX из OBLITERATUS/gemma-4-E4B-it-OBLITERATED версии 3 с использованием mlx-lm 0.31.2 и предназначена для запуска и инференса через библиотеку mlx-lm, в том числе с поддержкой диалогового шаблона. Модель подходит для генерации текста и интерактивных сценариев на совместимом оборудовании Apple MLX. В названии и метаданных указано 8-битное представление, однако точные сведения об архитектуре, количестве параметров, контекстном окне, языках и поддерживаемых модальностях в README не приведены. Модель относится к вариантам Gemma 4 и описана как abliterated/uncensored с удалением отказов, поэтому её поведение и ограничения безопасности могут отличаться от исходной модели. Лицензия — Apache-2.0.

Gemma-Mling 7B — базовая языковая модель, разработанная Junbum Lee (Beomi) и Taekyoon Choi на основе Gemma-7B от Google. Модель продолжительно предобучена на смеси корпусов, преимущественно на корейском, английском, китайском и японском языках, а также на многоязычных данных. Это плотная авторегрессионная модель GemmaForCausalLM с 8,2 млрд параметров и контекстом до 8192 токенов. Модель принимает текстовые запросы и документы и генерирует текст. Её можно применять для ответов на вопросы, суммаризации, черновиков, творческого письма и языковой практики; карточка также рассматривает её как основу для исследований NLP. Модель выпущена в формате safetensors для Transformers. Лицензия указана как other; README ссылается на условия использования Gemma, поэтому перед использованием следует ознакомиться с ними. Качество ответов зависит от охвата и качества обучающих данных; возможны предвзятость, ошибки в фактах и трудности с нюансами языка, сложными инструкциями и здравым смыслом. Карточка не сообщает об отдельных проверках качества по сценариям, поэтому результаты следует оценивать для конкретного применения.

Gigantes-v3-gemma2-9b-it — объединённая языковая модель, созданная разработчиком репозитория с помощью mergekit на основе Gemma 2 и нескольких инструктивных моделей. В состав объединения входят princeton-nlp/gemma-2-9b-it-SimPO, AXCXEPT/EZO-Humanities-9B-gemma-2-it, VAGOsolutions/SauerkrautLM-gemma-2-9b-it, anthracite-org/magnum-v4-9b и silma-ai/SILMA-9B-Instruct-v1.0; применён метод task arithmetic. Модель предназначена для диалоговой генерации текста. Автор рассчитывал, что сочетание японской, немецкой и арабской инструктивных моделей улучшит рассуждения и усложнит генерацию на английском языке. Это плотная модель Gemma 2 на 9 млрд параметров с контекстом до 8192 токенов, доступная в формате safetensors и рассчитанная на работу через Transformers. Метаданные указывают возможность чата, но не дают оснований считать заявленные улучшения подтверждёнными оценками. Модель распространяется по лицензии Gemma; перед применением следует соблюдать её условия. Карточка не описывает специальные ограничения по качеству или безопасности.

byroneverson/glm-4-9b-chat-abliterated — дообученная версия GLM-4-9B-Chat от THUDM, изменённая автором репозитория для снижения отказов модели. В версии 1.1 для этой процедуры использован слой 16; автор сообщает, что тесты PCA и косинусного сходства согласуются с выбором этого слоя. Модель предназначена для диалоговой генерации текста и работы через интерфейс вызова инструментов. Она построена на плотной архитектуре ChatGLM, содержит 10,7 млрд параметров и поддерживает контекст длиной до 131 072 токенов. В карточке указаны китайский и английский языки. Репозиторий содержит веса в формате safetensors. Снижение отказов может быть полезно в сценариях, где требуется меньше ограничений на ответы, однако README не приводит количественной оценки качества, безопасности или надёжности после изменения. Для преобразования модели в формат GGUF автору понадобился пакет tiktoken и собственный вариант инструментария GGUF. Лицензия обозначена как other; конкретные условия следует проверять в репозитории модели и у базовой модели.

ryugyosoft выпустила вариант IBM Granite 4.2 3B, преобразованный для запуска через движок onw на Intel NPU. Это плотная 40-слойная причинная Transformer-модель семейства Granite с 3,4 млрд параметров и контекстом до 131 072 токенов. Репозиторий содержит модельные файлы для onw, а не сам движок; веса повторно квантованы и перестроены для статических графов, с преимущественно знаково-ориентированной INT4-квантизацией и INT8 для проекций Q/K/V и выходного слоя. Обучение не проводилось. Модель предназначена для диалогов, рассуждений и сценариев с вызовом инструментов через OpenAI-совместимый API. Она принимает и генерирует текст, поддерживает японский и английский языки. Автор отмечает усиленную поддержку агентных сценариев у исходной Granite 4.2 и приводит результаты проверки совпадения токенов после преобразования. Запуск рассчитан на ПК с Intel Core Ultra и NPU под Windows 11 или Ubuntu 22.04 и новее; скорость зависит от NPU и объёма памяти. Для японского возможны ошибки кандзи и неестественные ответы, а режим рассуждений требует большего лимита токенов. Лицензия — Apache 2.0.

Huihui-Qwen3.5-9B-abliterated-TIES-Hemlock-SFT-i1-GGUF — GGUF-квантизированная версия модели Huihui-Qwen3.5-9B-abliterated-TIES-Hemlock-SFT, разработанной на базе nbeerbower/Huihui-Qwen3.5-9B-abliterated-TIES-Hemlock-SFT и квантизированной mradermacher. Модель дообучена методом SFT на датасете hemlang/Hemlock-SFT. Модель предназначена для генерации текста и, согласно README, относится к vision-моделям, поэтому для работы с изображениями могут потребоваться файлы mmproj из статического репозитория. Заявлен английский язык. В названии и описании указано около 9 миллиардов параметров, однако точная архитектура, размер контекста и полный перечень поддерживаемых модальностей не приведены. Репозиторий предоставляет множество вариантов GGUF-квантизации с размерами примерно от 2,8 до нескольких гигабайт, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Некоторые варианты помечены как низкокачественные, а i1-Q4_K_S обозначен как сбалансированный по размеру, скорости и качеству. Лицензия в представленном README не указана, поэтому условия использования необходимо уточнять в исходном репозитории или метаданных модели.

OREAL-7B-GGUF — это квантованные версии языковой модели OREAL-7B, разработанной internlm и опубликованной в формате GGUF для запуска через llama.cpp и совместимые приложения, включая LM Studio. Квантованием занимался bartowski с использованием llama.cpp и метода imatrix на основе набора данных internlm/OREAL-RL-Prompts. Модель предназначена для генерации текста и диалоговых сценариев; для неё указан специальный шаблон сообщений с ролями system, user и assistant. Доступно множество вариантов квантования от Q8_0 до Q2_K и IQ2_M размером примерно от 2,78 до 8,10 ГБ. Более высокие уровни квантования обеспечивают лучшее сохранение качества, но требуют больше памяти; Q6_K, Q6_K_L, Q5_K_* и Q4_K_M отмечены как рекомендуемые, а низкоразрядные варианты подходят для систем с ограниченным объёмом RAM, но имеют заметно более низкое качество. README не содержит сведений об архитектуре, размере контекста, поддерживаемых языках, модальностях или конкретных результатах тестирования. Модель распространяется по лицензии Apache-2.0. Для запуска требуются llama.cpp или совместимый проект; доступные файлы не являются исходной моделью, а представляют собой её квантованные сборки.

TechxGenus/Jamba-v0.1-9B — плотная версия базовой языковой модели Jamba от AI21, подготовленная TechxGenus из Jamba-v0.1: веса первого эксперта извлечены из исходной смеси экспертов, поэтому версия больше не использует MoE. Архитектура Jamba сочетает Mamba и Transformer; в метаданных указано 7,2 млрд параметров, формат весов — safetensors. Модель предназначена для генерации текста и как основа для дообучения и создания специализированных решений. Она подходит для запуска инференса на одной видеокарте RTX 3090 или RTX 4090; в README заявлена поддержка контекста до 256 тыс. токенов для исходной Jamba. Модель не настроена для диалогов и инструкций, поэтому для таких сценариев её следует дообучить. В карточке исходной Jamba приведены результаты на распространённых тестах языкового понимания и рассуждений. Для запуска требуются Transformers версии 4.39.0 или выше и CUDA; для оптимальной скорости нужны kernels Mamba. Лицензия — Apache 2.0. Модель не имеет встроенных механизмов модерации и защитных ограничений.

maywell/koOpenChat-sft — дообученная модель для генерации текста на основе OpenChat3.5. Она предназначена для диалогов и выполнения инструкций; поддерживает форматы ChatML и Alpaca без поля ввода. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и рассчитана на контекст до 8192 токенов. Модель обучена одним человеком на одном ускорителе A100 с 80 ГБ памяти. В README приведены результаты Open LLM Leaderboard, включая средние 51,36, ARC 59,81 и HellaSwag 78,73; отдельный раздел бенчмарков при этом не содержит результатов. Лицензия — CC BY-SA 4.0. Данных о поддерживаемых языках и специальных предметных областях нет.

LFM2.5-2.6B-GGUF — языковая модель семейства LFM2.5, разработанная Liquid AI. Это GGUF-версия модели LFM2.5-2.6B, предназначенная прежде всего для локального запуска на устройствах с ограниченными ресурсами. Модель относится к задачам генерации текста и поддерживает работу через llama.cpp. Модель построена на архитектурной линии LFM2 с дополнительным предварительным обучением и обучением с подкреплением. В названии указано около 2,6 млрд параметров. Заявлена поддержка арабского, китайского, английского, французского, немецкого, хинди, индонезийского, итальянского, японского, корейского, польского, португальского, русского, испанского, тайского и вьетнамского языков. Формат GGUF и ориентация на on-device deployment упрощают локальное использование, однако README не содержит сведений о размере контекста, точной архитектуре, мультимодальности, результатах тестирования и конкретных ограничениях качества. Доступны варианты квантования Q4_0, включая отдельный checkpoint QAD (Quantization-Aware Distillation) и post-training-quantized версию. Лицензия указана как lfm1.0; подробные условия приведены в файле LICENSE. Модель подходит для локальной генерации текста и диалоговых сценариев, но перед использованием в критически важных задачах следует учитывать отсутствие в README подробных данных о бенчмарках и поведении модели.

MergedQwen2-0.5B0.5 — языковая модель на архитектуре Qwen2, созданная методом линейного слияния двух предварительно обученных моделей: debias_Qwen2-0.5B и Qwen2-0.5B. Веса объединены поровну с нормализацией; для токенизатора использована модель Qwen2-0.5B. Репозиторий содержит веса в формате safetensors, модель рассчитана на генерацию текста и поддерживает чатовый сценарий. В модели около 493,7 млн параметров, заявленная длина контекста — 131 072 токена. Она может использоваться для диалоговой генерации текста и иных задач, решаемых авторегрессионной языковой моделью. Сведения о лицензии, языковой специализации и результатах оценки качества в предоставленных источниках отсутствуют.

LiquidJustice-MOE-V1 — дообученная Yosan443 языковая модель на архитектуре LiquidAI LFM2.5-8B-A1B MoE. Она предназначена для диалогов и генерации текста; метаданные также указывают интерфейс для вызова инструментов. Модель содержит 1,6 млрд параметров и поддерживает контекст до 128 000 токенов. Модель обучена с использованием Unsloth и библиотеки TRL. В карточке не описаны специализированная область, состав обучающих данных или результаты оценки качества. Распространяется по лицензии Apache-2.0.

Apollo Raines представил экспериментальный вариант Llama-3.1-8B-Instruct, изменённый инструментом jBlaze методом representation engineering. По карточке, веса были скорректированы без дополнительного обучения: ослаблены отказы на запросы и подавлены токсичные речевые шаблоны. Модель предназначена для диалогов и генерации текста, включая обсуждение широкого круга тем; примеры также показывают ответы на общие вопросы, простые вычисления и написание кода. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров и контекстом до 131 072 токенов. В метаданных указан английский язык; заявлена лицензия Llama 3.1. Автор описывает выпуск как демонстрационный и намеренно ограниченный по возможностям, поэтому результаты не следует считать показателем полной версии инструмента jBlaze. Ослабление отказов может приводить к ответам на опасные запросы; заявление об отсутствии наблюдавшихся проблем не заменяет независимую оценку безопасности.

Llama-3.1-8B-Lexi-Uncensored-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Llama-3.1-8B-Lexi-Uncensored, разработанной Orenguteng и подготовленной в формате GGUF пользователем bartowski. Квантизация выполнена с использованием llama.cpp и метода imatrix; доступны варианты от F32 до низкобитных Q2 и IQ-квантизаций. Модель предназначена для генерации текста и локального запуска в совместимых приложениях, включая LM Studio. Объём файлов варьируется примерно от 2,95 до 32,13 ГБ в зависимости от варианта. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше памяти; Q6_K_L, Q6_K, варианты Q5 и Q4 отмечены как рекомендуемые, тогда как низкобитные варианты ориентированы на системы с ограниченным объёмом RAM и могут заметно уступать по качеству. Модель использует архитектуру семейства Llama 3.1 с размером 8B параметров и поддерживает текстовый ввод и вывод. В README не указаны точное максимальное окно контекста и перечень языков. Для корректной работы следует применять указанный формат prompt с системными и пользовательскими сообщениями. Лицензия обозначена как llama3.1; дополнительные условия этой лицензии в README не приведены.

Llama-3.1-8B-Lexi-Uncensored-V2-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Llama-3.1-8B-Lexi-Uncensored-V2, опубликованной Orenguteng. Квантизации подготовлены bartowski с использованием llama.cpp версии b3509 и метода imatrix. Модель предназначена для генерации текста и запуска в локальных средах, включая LM Studio и другие совместимые приложения на базе llama.cpp. Архитектура основана на Llama 3.1 с размером 8 миллиардов параметров. README не содержит сведений о поддерживаемых языках, максимальном размере контекста и мультимодальных возможностях, поэтому модель следует рассматривать как текстовую. Доступны варианты от F32 размером 32,13 ГБ до более компактных IQ и Q-квантизаций; рекомендуемыми названы, в частности, Q4_K_M, Q5_K_M, Q5_K_L, Q6_K и Q6_K_L. Более крупные варианты обеспечивают более высокое качество, а низкоразрядные подходят для систем с ограниченной оперативной памятью, но могут заметно уступать по качеству. Для работы рекомендуется использовать указанный chat-шаблон с системным, пользовательским и ассистентским сообщениями. Лицензия обозначена как llama3.1; дополнительные условия в README не приведены. Ограничения включают зависимость качества от выбранного уровня квантизации и отсутствие подробных данных о языках, контексте, бенчмарках и безопасности использования.

Atomic-Germ/Llama-3.1-8B-NPU2 — производная модель семейства LLaMA 3.1 от Meta AI, адаптированная для быстрого запуска через FastFlowLM на NPU AMD Ryzen AI с архитектурой XDNA2. В качестве базовой указана Meta Llama 3.1 8B Instruct; README не уточняет, включены ли в производную модель дообучение, квантизация или другие изменения. Модель предназначена для генерации текста, исследовательских и академических экспериментов в области NLP, а также, при соответствующей поддержке, для генерации кода. Указан английский язык. Размер — 8 миллиардов параметров; модальность — текстовая. Длина контекста и точные технические характеристики адаптации не указаны. Ключевое преимущество модели — оптимизация под аппаратное ускорение на AMD Ryzen AI NPU с XDNA2 и интеграцию с FastFlowLM. При этом README предупреждает о возможной генерации ошибочной или вредоносной информации, сохранении предубеждений обучающих данных и отсутствии знаний о событиях после завершения обучения. Модель не рекомендуется использовать в продуктивных, чувствительных или коммерческих сценариях без дополнительной оценки и необходимых разрешений. Использование регулируется лицензией Meta LLaMA 3: требуется принять условия Meta, а коммерческое использование, распространение и требования к атрибуции ограничены условиями этой лицензии. Репозиторий не содержит оригинальных весов Meta; их необходимо получать отдельно. Условия лицензирования производных весов и обучающих наборов данных в README не заполнены, поэтому перед использованием требуется проверить права на все компоненты.

Модель yanggangu/Llama-3.2-1B-Instruct-SMAT-MeetingBank — эксперт SMAT, обученный на базе Meta Llama 3.2 1B Instruct с seed 42. Она создана в рамках метода Simple and Efficient Merge-Aware Training для сохранения качества на целевой задаче и повышения пригодности модели к объединению с другими моделями; карточка относит её к Table 1 статьи SMAT. Это плотная авторегрессионная модель семейства Llama с 1,2 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Контекстное окно — до 131 072 токенов. Лицензия — Llama 3.2; действуют соответствующие условия лицензии и политика допустимого использования Meta.