II.1Анализ требований и архитектура ПО

lemur-70b-chat-v1 — разговорная большая языковая модель OpenLemur, представленная в формате causal language model на архитектуре Llama. В репозитории указаны 68,7 млрд параметров, библиотека Transformers и веса PyTorch; модель создаёт текст по текстовому запросу и предназначена для диалогового использования. Метаданные также отмечают поддержку задач генерации кода. Модель рассчитана на английский язык, её родной контекст составляет 4096 токенов. Лицензия CC BY-NC 4.0 разрешает использование на условиях атрибуции и запрещает коммерческое применение. README не содержит сведений о результатах оценки или специальных ограничениях качества.

EXAONE-4.0-32B-GGUF — это набор GGUF-квантизаций языковой модели EXAONE-4.0-32B, разработанной LGAI-EXAONE. Квантизации подготовлены пользователем bartowski с помощью llama.cpp версии b5934 и imatrix на основе исходной модели LGAI-EXAONE/EXAONE-4.0-32B. Модель предназначена для генерации текста и может использоваться локально через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от BF16 размером около 64 ГБ до компактных IQ3 и Q3 размером примерно 13–17 ГБ, а также более качественные Q4–Q8. Рекомендуемым вариантом по умолчанию указан Q4_K_M; варианты Q5 и Q6 обеспечивают более высокое качество при значительных требованиях к памяти, а низкобитные варианты подходят для систем с ограниченным объёмом RAM, но могут заметно уступать в качестве. Из README известно, что модель содержит 32 миллиарда параметров и работает в текстовой модальности. Архитектура, поддерживаемые языки, размер контекстного окна и точные характеристики исходной модели здесь не указаны. Шаблон чата также не задан: в README приведён предполагаемый формат, который может быть некорректным и требует проверки по карточке оригинальной модели. Лицензия в предоставленных данных не указана.

Ling-3.0-tiny-GGUF — это конвертация модели Ling-3.0-tiny в формат GGUF для запуска через llama.cpp. Базовую модель разработала команда inclusionAI, а данный вариант опубликован пользователем bloomer010. Модель предназначена для генерации текста, диалоговых сценариев и агентских задач, включая вызов инструментов и раздельный режим рассуждений. Архитектура использует mixture-of-experts: всего 7,9 млрд параметров, из которых 1,3 млрд активируются на каждом токене. Модель содержит 24 слоя, включая 18 KDA- и 6 MLA-слоёв, 128 маршрутизируемых экспертов с 8 активными экспертами на токен и одного общего эксперта. Поддерживаются Q-LoRA с рангом 256 и KV-LoRA с рангом 512, контекст до 131 072 токенов, а также режим рассуждений, включённый по умолчанию. Информация о поддерживаемых языках и мультимодальности в README не указана. Доступны варианты квантования от BF16 до сильно сжатых IQ- и Q-форматов, что позволяет выбирать между качеством и требованиями к памяти; рекомендуемый UD-Q8_K_XL обеспечивает качество, близкое к полной точности. Модель протестирована на CPU и CUDA, включая RTX 4070 и RTX 3060. Ограничения включают возможное преждевременное завершение ответа внутри блока рассуждений и проблемы с агентским использованием и tool calling в llama.cpp без поддержки двух указанных изменений. Для MXFP4_MOE рекомендуется GPU с нативной поддержкой MXFP4, иначе возможна более низкая скорость. Распространяется по лицензии MIT.

Fischerboot/ll3-test-2 — диалоговая языковая модель, созданная слиянием чекпойнтов Fischerboot/ll3-test-1 методом SLERP с помощью mergekit. Модель построена на архитектуре Llama и содержит 6,9 млрд параметров; она предназначена для генерации текста и диалогового взаимодействия. Максимальная длина контекста составляет 8192 токена. Модель принимает текст и генерирует текст. В README указан один и тот же исходный репозиторий для обоих наборов слоёв с разными диапазонами, поэтому это слияние вариантов одной модели, а не объединение явно указанных разных семейств. Использование и распространение регулируются лицензией базовой модели; сведения о ней в предоставленных источниках отсутствуют.

LLaDA2.1-mini — инструктивно дообученная диффузионная языковая модель серии LLaDA от inclusionAI на архитектуре Mixture-of-Experts. Она предназначена для диалогов, генерации текста и задач, в которых полезно быстро создавать и редактировать ответы. Модель поддерживает контекст до 32 768 токенов; в README указано 16 млрд параметров без эмбеддингов, тогда как метаданные Hugging Face указывают 1,2 млрд параметров. Эти сведения о размере расходятся. Ключевая особенность модели — редактируемая генерация с режимами Speed и Quality: README описывает компромисс между скоростью вывода и качеством, а также возможность исправления ошибок в процессе генерации. Модель доступна в формате safetensors и использует библиотеку Transformers. README рекомендует определённые настройки денойзинга и отмечает, что низкий порог может вызывать прерывистую генерацию. Лицензия — Apache-2.0.

Карточка модели prompt-agnostic-language-models/Llama-1B_ties_all на Hugging Face совпадает с карточкой meta-llama/Llama-3.2-1B, поэтому описание составлено по ней. Meta Llama 3.2 1B — авторегрессионная языковая модель на основе оптимизированной архитектуры Transformer. Это предварительно обученная многоязычная модель с примерно 1,23 млрд параметров; она принимает и генерирует текст, а также может работать с кодом. В карточке указаны контекст до 128 тысяч токенов, Grouped-Query Attention и обучение на смеси общедоступных данных. Модель предназначена для генерации текста и адаптации к различным задачам обработки естественного языка. Её можно использовать для черновиков и продолжения текста, перефразирования запросов, краткого изложения и диалоговых приложений после соответствующей настройки. Разработчик — Meta; модель доступна через библиотеку Transformers в формате safetensors. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Это предварительно обученная модель, а не версия, настроенная специально для диалога; качество и безопасность ответов следует проверять и при необходимости адаптировать для конкретного применения. Использование регулируется пользовательской лицензией Llama 3.2 Community License и Acceptable Use Policy.

Модель ETRI xainlp team — языковая модель на архитектуре LlamaForCausalLM с 12,9 млрд параметров. Она дообучена на базе meta-llama/Llama-13b-hf: сначала на 650 тыс. примеров с инструкциями, затем с помощью DPO и LoRA на 90 тыс. примеров пользовательских предпочтений. Модель принимает текст и генерирует текст, поэтому подходит для выполнения инструкций и диалоговых сценариев. Контекст — до 4096 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

bunnycore/Llama-3.1-8B-TitanFusion-v2 — объединённая авторегрессионная языковая модель семейства Llama 3.1, созданная с помощью mergekit методом Model Stock. В качестве базовой использована bunnycore/LLama-3.1-8B-HyperNova-abliteration; в слияние также вошли TitanFusion, Matrix, Ultra-Instruct и MagpieLM-8B-Chat-v0.1. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и представлена в формате safetensors с точностью bfloat16. Заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций и создание ответов. В карточке не приведены результаты оценки качества или подробные сведения о поддерживаемых языках. Лицензия в предоставленных данных не указана.

Dampfinchen/Llama-3.1-8B-Ultra-Instruct — объединённая разговорная языковая модель на архитектуре Llama 3.1, созданная автором репозитория с помощью mergekit и метода DARE TIES. В основе объединения лежит NousResearch/Meta-Llama-3.1-8B; также использованы Llama-3.1-Storm-8B, llama3.1-airoboros3.2-QDT-8B, llama3.1-gutenberg-8B и Llama-3.1-8B-Stheno-v3.4. Модель предназначена для диалоговой генерации текста и выполнения инструкций с шаблоном Llama 3 Instruct. Она содержит 7,5 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 131 072 токена. В карточке приведены результаты оценки, включая 80,81 балла на IFEval (0-shot), однако подробные выводы о качестве для отдельных сценариев из этих данных сделать нельзя. Модель распространяется по лицензии Llama 3.1. Автор рекомендует использовать её с осторожностью; применяются условия и ограничения лицензии исходного семейства.

unsloth/Llama-3.1-Nemotron-70B-Instruct — текстовая диалоговая модель NVIDIA на архитектуре Llama 3.1, опубликованная Unsloth. Это версия с дообучением NVIDIA Llama-3.1-Nemotron-70B-Instruct-HF; в карточке каталога указан датасет HelpSteer2. Модель предназначена для генерации ответов на инструкции и запросы в диалоге, а также поддерживает интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM и 69,5 млрд параметров. Она принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Llama 3.1. README направляет к исходной карточке NVIDIA за дополнительными сведениями; подробные ограничения и оценка качества в предоставленных данных не описаны.

angrybyte/llama3.2-tt-opt — текстовая языковая модель семейства Llama, разработанная angrybyte и дообученная на базе unsloth/llama-3.2-3b-instruct-bnb-4bit. Модель содержит 3,2 млрд параметров, использует архитектуру LlamaForCausalLM и рассчитана на генерацию текста в диалоговом формате; интерфейс поддерживает вызов инструментов. Указанное контекстное окно — 131 072 токена. Модель подходит для диалоговых приложений и генерации ответов на текстовые запросы. В карточке заявлено обучение с использованием Unsloth и библиотеки TRL. Указана поддержка английского языка. Лицензия — Apache-2.0.

lainshower/Llama3-8b-alpaca — дообученная в режиме полного fine-tuning модель Llama 3, созданная на основе Llama 3 8B с использованием инструкционных данных Stanford Alpaca. Это плотная авторегрессионная языковая модель с 7,5 млрд параметров и контекстом до 8192 токенов; веса опубликованы в формате safetensors. Модель предназначена для генерации ответов на инструкции и запросы с дополнительным контекстом. В README приведён шаблон диалога Alpaca и пример ответа на вопрос с выбором варианта; заявлено обучение в течение одной эпохи в BF16, поскольку более длительное обучение приводило к переобучению. Для инференса автор рекомендует Float32. Карточка не указывает лицензию, поэтому условия использования определить нельзя.

DarqueDante/LLama-3-Mega-Dolphin-2.9.1-120b — разговорная языковая модель на архитектуре Llama 3, созданная слиянием через mergekit из двух копий Dolphin 2.9.1 Llama 3 70B. Модель содержит 120,8 млрд параметров и рассчитана на генерацию текста и диалог с шаблоном ChatML; она принимает текстовые запросы и выдаёт текстовые ответы. Модель предназначена для универсального ассистирования в чате. Данные обучения связаны с диалогами, программированием, математическими задачами и вызовом функций; это указывает на соответствующие сценарии применения, но карточка не приводит отдельной оценки качества по ним. Заявленная длина контекста — 8192 токена, основной язык карточки — английский. В репозитории указаны веса safetensors и библиотека Transformers. Лицензия в предоставленных сведениях не указана, поэтому условия использования определить нельзя.

Lonepino-11B — плотная авторегрессионная языковая модель семейства Mistral, созданная beberik путём слияния нескольких моделей с помощью mergekit. В состав рецепта входят Intel/neural-chat-7b-v3-3-Slerp, NeverSleep/Noromaid-7b-v0.2, chargoddard/loyal-piano-m7-cdpo и maywell/PiVoT-0.1-Starling-LM-RP. Репозиторий содержит веса в формате bfloat16 и safetensors; размер модели — 10,6 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогового общения. В README упомянуты шаблоны Alpaca и ChatML, а также приведены результаты оценивания на нескольких языковых бенчмарках. Основной язык и специализация не заявлены, поэтому её следует рассматривать как модель общего назначения. Лицензия CC BY-NC 4.0 требует указания авторства и запрещает коммерческое использование.

Lumina-2 — предварительно обученная языковая модель с разреженной архитектурой Mixture of Experts (MoE), опубликованная Ppoyaa и созданная с помощью LazyMergekit. Модель предназначена для генерации текста и диалогового взаимодействия; её архитектура относится к семейству Mixtral, а общий размер составляет 7,1 млрд параметров. Модель принимает текст и генерирует текст. Длина контекста — до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не приводит сведений о поддерживаемых естественных языках и конкретных областях применения.

ConvexAI/Luminex-34B-v0.2 — разговорная языковая модель ConvexAI на архитектуре Llama с 33,9 млрд параметров и контекстом до 32 768 токенов. По карточке, это SimpleSmaug-34b с применённым методом LaserRMT; в метаданных базовой моделью указана jondurbin/bagel-34b-v0.2, от которой модель является дообучением. Модель предназначена для генерации текста и диалогового взаимодействия. В README приведены результаты Open LLM Leaderboard: среднее значение 77,19, включая 74,49 в AI2 Reasoning Challenge и 86,76 в HellaSwag; другие результаты заявлены, но таблица неполная. Модель опубликована в форматах PyTorch и Safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией репозитория.

Kaballas/m_1 — текстовая генеративная модель, созданная Kaballas путём слияния нескольких предварительно обученных моделей с помощью mergekit и метода Model Stock. В качестве базовой использована Qwen/Qwen2.5-7B-Instruct; в слияние также вошли модели для рассуждений и генерации текста, включая DrNicefellow/Qwen2.5-7B-O1-Journey-1, C10X/CoT-2.5, bunnycore/Qwen2.5-7B-CyberRombos, djuna/Q2.5-Fuppavy-7B, Kaballas/TLetsgo и jeffmeloy/Qwen2.5-7B-nerd-uncensored-v1.7. Модель семейства Qwen2 имеет плотную архитектуру Qwen2ForCausalLM, содержит 7,1 млрд параметров и принимает текстовый контекст длиной до 32 768 токенов. Она предназначена для диалогов и генерации текста, в том числе ответов с рассуждениями. Репозиторий использует формат safetensors и библиотеку Transformers; заявлен интерфейс для вызова инструментов. В метаданных лицензия не приведена. Поскольку это слияние моделей, поведение и ограничения зависят от исходных компонентов; README не содержит оценки качества или подробных ограничений.

M7Multiverseex26-7B — плотная языковая модель семейства Mistral с 7,1 млрд параметров, созданная Maxime Labonne автоматическим слиянием моделей через mergekit. В конфигурации указаны liminerity/M7-7b и allknowingroger/MultiverseEx26-7B-slerp; применён метод dare_ties, а результат сохранён в формате safetensors с точностью bfloat16. Модель предназначена для генерации текста и может использоваться в диалоговых приложениях и для создания текстовых ответов. Максимальная длина контекста — 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0.

M7Yamshadowexperiment28_Experiment26T3qm7xp — объединённая модель MaziyarPanahi на архитектуре Mistral для генерации текста и диалогов. Она содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате Safetensors. Модель объединяет automerger/M7Yamshadowexperiment28-7B и automerger/Experiment26T3qm7xp-7B. Она подходит для генерации ответов и продолжения текста; сведения о специализации по языкам и предметным областям в карточке отсутствуют. Модель распространяется по лицензии Apache-2.0.

M7Yamshadowexperiment28_Experiment27Experiment24 — объединённая модель Mistral, созданная из automerger/M7Yamshadowexperiment28-7B и automerger/Experiment27Experiment24-7B. Она предназначена для генерации текста и диалоговых сценариев. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов; репозиторий распространяет веса в формате safetensors. Лицензия — Apache-2.0. README и метаданные не описывают специализированные области применения или конкретные ограничения качества.

M7Yamshadowexperiment28_NeuralsirkrishnaT3qm7x — объединённая языковая модель семейства Mistral, созданная слиянием automerger/M7Yamshadowexperiment28-7B и automerger/NeuralsirkrishnaT3qm7x-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и распространяется в формате Safetensors. Модель предназначена для генерации текста и диалогов, принимает текстовые запросы и формирует текстовые ответы. Размер контекста составляет до 32 768 токенов. В карточке не приведены сведения о специализации на конкретных языках или прикладных областях. Модель опубликована 7 апреля 2024 года под лицензией Apache-2.0. Карточка не сообщает результатов оценки качества или ограничений, специфичных для этого слияния.

MaziyarPanahi/M7Yamshadowexperiment28_Strangemerges_30Pastiche — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/M7Yamshadowexperiment28-7B и automerger/Strangemerges_30Pastiche-7B. Модель содержит 7,1 млрд параметров, принимает текст и предназначена для генерации текста и диалогов; контекст — до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. README не приводит сведений о специальной предметной области или языковом профиле, поэтому модель описывается как универсальная. Практические ограничения и оценка качества в карточке не раскрыты.

Magistral-Small-2506-bf16 — версия модели Magistral-Small-2506, подготовленная сообществом mlx-community для формата MLX. Это плотная авторегрессионная модель семейства Mistral с 23,4 млрд параметров, предназначенная для генерации текста и диалогового общения. Модель принимает текст и выдаёт текст; её контекстное окно составляет 32 768 токенов. В карточке указана поддержка множества языков, включая русский, английский, французский, немецкий, испанский, китайский и японский. Модель можно использовать для диалоговых интерфейсов, генерации и продолжения текста. Репозиторий содержит веса safetensors в формате MLX; README указывает на запуск через mlx-lm версии 0.25.2. Лицензия — Apache-2.0. Это преобразование базовой модели в другой формат, поэтому качество и поведение в основном определяются исходной Magistral-Small-2506, а практическое использование MLX ориентировано на совместимую среду.

MarcBeagle-7B — объединённая модель семейства Mistral, опубликованная leveldevai. Она создана с помощью LazyMergekit методом SLERP из flemmingmiguel/MarcMistral-7B и leveldevai/TurdusBeagle-7B. Модель имеет плотную архитектуру MistralForCausalLM, 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и может использоваться в диалоговых сценариях, для выполнения инструкций и создания текстовых ответов. Репозиторий содержит веса в формате safetensors; модель распространяется по лицензии Apache-2.0. Данных о языковом охвате и специализированной предметной области в предоставленной карточке нет.

MeliodasPercival_01_Experiment24Ognoexperiment27 — объединённая текстовая модель, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/Experiment24Ognoexperiment27-7B. Она предназначена для генерации текста и диалогов; модель построена на архитектуре Mistral и содержит 7,1 млрд параметров. Контекстное окно составляет до 32 768 токенов, веса опубликованы в формате safetensors. Модель принимает текст и генерирует текст, поэтому подходит для диалоговых систем, черновиков и продолжения текста. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает специальные предметные области или языковую специализацию.

MeliodasPercival_01_Experiment24Shadow — объединённая разработчиком MaziyarPanahi модель для генерации текста и диалогов. Она основана на двух моделях: automerger/MeliodasPercival_01-7B и automerger/Experiment24Shadow-7B. Модель использует плотную архитектуру Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache 2.0.

MeliodasPercival_01_Experiment27Pastiche — объединённая языковая модель семейства Mistral, созданная MaziyarPanahi на основе automerger/MeliodasPercival_01-7B и automerger/Experiment27Pastiche-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и распространяется в формате safetensors. Модель предназначена для генерации текста и диалоговых ответов. Контекстное окно составляет до 32 768 токенов, что позволяет работать с длинными запросами и документами. Карточка не описывает специальные предметные области или отдельные языки. Модель опубликована под лицензией Apache-2.0. README не сообщает о сравнительных оценках качества или конкретных ограничениях; результаты могут зависеть от промпта и сценария применения.

MeliodasPercival_01_Strangemerges_32Strangemerges_30 — объединённая языковая модель, собранная из automerger/MeliodasPercival_01-7B и automerger/Strangemerges_32Strangemerges_30-7B. Она построена на архитектуре Mistral с причинным языковым декодером и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалогов, поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате Safetensors; лицензия — Apache-2.0. Данные карточки не описывают отдельные преимущества модели или специальные ограничения качества.

mergekit-community/mergekit-ties-rraxdhv — объединённая разговорная языковая модель на архитектуре Gemma 2, созданная сообществом с помощью mergekit. В основе слияния лежит unsloth/gemma-2-9b-it; в него также включены anthracite-org/magnum-v3-9b-customgemma2, rtzr/ko-gemma-2-9b-it, flammenai/Mahou-1.3-gemma2-9B и AlicanKiraz0/SenecaLLM_x_gemma-2-9b-CyberSecurity. Использован метод TIES. Модель содержит 9 млрд параметров и принимает текст для генерации продолжений и ответов в диалогах. Контекст — до 8192 токенов. В репозитории указаны веса SafeTensors и поддержка Transformers. Лицензия в предоставленных данных не приведена.

Meta-Llama-3-8B-Instruct-heretic-mlabonne — разговорная текстовая модель семейства Llama 3, основанная на Meta Llama 3 8B Instruct. В README описана архитектура авторегрессионного трансформера с Grouped-Query Attention; метаданные указывают формат safetensors и возможность чата. По тегам uncensored, decensored и abliterated модель позиционируется как вариант Llama 3 с ослабленными ограничениями на ответы, однако карточка не уточняет метод модификации и параметры обучения. Модель принимает текст и генерирует текст, включая код. Она предназначена для диалогов с ассистентом и генерации текста на английском языке; может использоваться для ответов на вопросы, написания черновиков и помощи с кодом. В README приведены условия Llama 3 Community License и Acceptable Use Policy: применение должно им соответствовать. Указанная в метаданных лицензия — llama3.