II.1Анализ требований и архитектура ПО

JET-7B — языковая модель с 7,1 млрд параметров, разработанная на базе DeepSeek-Distill-Qwen-7B с применением обучения с подкреплением. Она предназначена для решения задач рассуждения и генерирует пошаговые объяснения, стремясь сократить лишние вычисления и количество токенов. Модель построена на плотной архитектуре Qwen2 и доступна в формате safetensors. Она поддерживает диалоговый режим, использует шаблон чата, рассчитанный на выдачу финального ответа в формате \boxed{}, и имеет контекст длиной до 131 072 токенов. Для применения указана лицензия Apache-2.0.

kunoichi-lemon-royale-v2-32K-7B-GGUF — это квантованная версия текстовой генеративной модели kunoichi-lemon-royale-v2-32K-7B, опубликованная bartowski. Исходная модель создана на основе объединения grimjim/Mistral-7B-Instruct-demi-merge-v0.2-7B и grimjim/kunoichi-lemon-royale-7B. Распространяется в формате GGUF для запуска через llama.cpp. Модель предназначена для генерации текста в инструкционном формате, включая диалоговые и другие сценарии, где требуется следовать запросу пользователя. Заявлен контекст до 32K токенов, размер — 7B параметров. Поддерживается только текстовая модальность; сведения о языках обучения и целевой языковой специализации в README не указаны. Для запросов используется формат <s> [INST] {prompt} [/INST]</s>, системный промпт не поддерживается. Доступно множество вариантов квантования от Q8_0 до Q2_K и IQ-квантов. Варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M рекомендуются как обеспечивающие высокий или хороший баланс качества и размера, тогда как более сильное сжатие уменьшает требования к памяти, но снижает качество. Квантование выполнено с использованием imatrix и llama.cpp. Модель распространяется по лицензии CC BY-NC 4.0, допускающей использование с ограничениями, включая некоммерческий характер лицензии.

Crestf411 создал разговорную языковую модель L3.1-8B-Dark-Planet-Slush на основе meta-llama/Llama-3.1-8B-Instruct. По карточке, это версия v1.1 со слиянием с DavidAU/L3.1-Dark-Planet-SpinFire-Uncensored-8B методом TIES; метаданные также отмечают дообучение базовой модели. Модель построена на архитектуре Llama 3.1, содержит 7,5 млрд параметров и предназначена для генерации текста и диалогов. Заявленное окно контекста — 131 072 токена. Модель подходит для свободного диалога и генерации ответов по инструкциям; автор приводит параметры для собственных экспериментов с генерацией. Метка not-for-all-audiences и упоминание uncensored в названии компонента указывают на возможность выдачи контента для взрослой аудитории. Доступны веса в формате safetensors, библиотека — Transformers. Лицензия — Llama 3.1 Community License (llama3); применяются её условия использования.

L3.1-Artemis-faustus-8B — слитая диалоговая языковая модель сообщества mergekit-community на архитектуре Llama. Она объединяет mergekit-community/L3.1-Artemis-d-8B и DreadPoor/Aurora_faustus-8B-LINEAR методом SLERP; в репозитории представлены веса Safetensors, а для работы используется библиотека Transformers. Модель содержит 7,5 млрд параметров, имеет контекстное окно 8192 токена и предназначена для генерации текста и диалоговых ответов. Её можно применять для чат-ботов, свободного продолжения текста и ответов на запросы на естественном языке. В карточке не приведены сведения о поддерживаемых естественных языках и специальные ограничения качества. Лицензия в предоставленных данных не указана.

L3-Dark-Planet-8B-V2-Eight-Orbs-Of-Power — языковая модель для генерации текста, опубликованная DavidAU. Это плотная causal language model семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров; репозиторий содержит исходные веса в формате safetensors, которые можно использовать напрямую или преобразовать в другие форматы. Модель поддерживает диалоговый сценарий и имеет контекстное окно 8192 токена. Модель предназначена для генерации текста и диалогов. В README автор отмечает важность корректного подбора параметров генерации и сэмплеров, однако подробные ссылки на руководство и примеры в карточке не заполнены. Указаний о поддерживаемых естественных языках и специализированных предметных областях нет. Лицензия в предоставленных данных не указана.

Vdr1/L3-daybreak-TheSpice-8b-v0.1.3 — текстовая генеративная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. В карточке указано, что это слияние с daybreak L3 8b LoRA v0.2 от crest4all; модель предназначена для генерации текста. Репозиторий создан 31 мая 2024 года и содержит веса в формате safetensors. Модель принимает текст и выдаёт текст. Её контекст составляет 8192 токена. README не уточняет языки, сценарии применения или результаты оценки качества. Лицензия в предоставленных данных не указана.

bartowski/L3-Pneuma-8B-GGUF — набор GGUF-квантизаций текстовой генеративной модели L3-Pneuma-8B, разработанной Replete-AI и преобразованной bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска и генерации текста; в README отдельно указана совместимость с LM Studio. Доступен специальный формат промпта на основе шаблона заголовков Llama 3 с ролями system, user и assistant, а также дополнительным идентификатором pneuma. Размер исходной модели составляет 8B параметров. Представлены варианты от F16 размером 16,07 ГБ до IQ2_M размером 2,95 ГБ, включая форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, а компактные варианты подходят для систем с ограниченным объёмом оперативной памяти. В README не указаны архитектурные детали, поддерживаемые языки, размер контекста, мультимодальные возможности, результаты тестирования или конкретные прикладные специализации модели. Сильной стороной набора является широкий выбор компромиссов между качеством, размером и требованиями к ресурсам, а также поддержка локального инференса через экосистему llama.cpp. Ограничения качества зависят от выбранного варианта квантизации: низкобитные версии могут заметно уступать более крупным. Указанная лицензия — llama3; условия её применения следует дополнительно проверить для конкретного сценария использования.

LeoLM-Mistral — языковая модель, созданная Björn Plüster и Christoph Schuhmann в сотрудничестве с LAION и HessianAI. Она основана на Mistral-7B-v0.1 и продолжает предобучение на крупном корпусе немецкоязычных и преимущественно локальных текстов, чтобы расширить возможности модели в немецком языке. Это плотный авторегрессионный трансформер с 7,1 млрд параметров, предназначенный для генерации текста на немецком и английском языках. Метаданные указывают контекст до 32 768 токенов; README сообщает о 8 тысячах токенов для моделей этого выпуска. Модель подходит для генерации и продолжения текста, а также для исследовательских и коммерческих приложений на немецком языке. Репозиторий распространяется в формате PyTorch, библиотека — Transformers. Лицензия Apache 2.0. Качество и фактическая поддержка контекста могут зависеть от конфигурации и способа запуска; модель оптимизирована прежде всего для немецкого языка.

Это текстовый чекпойнт Google Gemma 4 26B A4B, структурно прореженный автором jayzou3773 методом Less-is-MoE на основе среднего абсолютного градиента. Удалено 50% нейронов FFN маршрутизируемых экспертов; обучение с шагом оптимизатора не проводилось. Модель загружена и прорежена в BF16, а веса опубликованы в формате safetensors. Чекпойнт предназначен для генерации текста на основе причинной языковой модели. Его можно использовать для диалогов и других задач генерации, поддерживаемых базовой Gemma 4. В этой версии оставлена только текстовая башня: компонент для обработки изображений исключён. Контекстное окно составляет до 262144 токенов. Указанная в карточке базовая модель — google/gemma-4-26B-A4B; размер опубликованной модели — 2B параметров. Лицензия — Apache-2.0. Прореживание удаляет половину нейронов маршрутизируемых экспертов, что может влиять на качество относительно исходной модели; README не приводит оценок этого влияния. Калибровка выполнялась на 128 примерах с последовательностями длиной до 8192 токенов, без оптимизаторного шага.

lfm25-1.2b-pv-conscientiousness-high — дообученная модель LiquidAI/LFM2.5-1.2B-Base, созданная с помощью TRL. Это плотная языковая модель семейства LFM2 с 1,5 млрд параметров, предназначенная для генерации текста в диалоговом формате. В карточке приведён пример ответа на открытый вопрос; суффикс conscientiousness-high указывает на профиль conscientiousness-high, но подробности обучения этому профилю не описаны. Модель принимает текстовые сообщения и генерирует текст; максимальная длина контекста составляет 128 000 токенов. Она распространяется в формате safetensors и работает через Transformers. В карточке не приведены сведения о лицензии и конкретной языковой специализации.

Модель mosama/LFM2.5-350M-Tool-Calling-Merged-v3-chat-template-updated — дообученная автором mosama языковая модель семейства LFM2 для генерации текста и диалогового общения. Она основана на mosama/LFM2.5-350M-Tool-Calling-Merged-v3; в README также отмечено обучение с использованием Unsloth. Модель содержит 444,6 млн параметров, имеет контекстное окно до 128 000 токенов и распространяется в формате Safetensors. Модель можно применять для генерации ответов в чате и других текстовых сценариях. README не описывает отдельные возможности обновлённого шаблона чата или подтверждённое качество вызова инструментов. Указанная лицензия — Apache-2.0. Метаданные карточки указывают английский язык.

Lima_Unchained_70b — языковая модель Pankaj Mathur на архитектуре Llama 2, дообученная с помощью QLoRA на всех линейных слоях. Обучающая выборка включает около 900 тщательно отобранных диалогов из датасета LIMA; модель предназначена для генерации ответов и продолжения текста в формате диалога с метками «### User:» и «### Assistant:».

Карточка модели Fraser/LLaDA-8B-Base-gg2m на Hugging Face совпадает с карточкой GSAI-ML/LLaDA-8B-Base, поэтому описание составлено по ней. LLaDA-8B-Base — базовая языковая модель семейства LLaDA, разработанная командой GSAI-ML и обученная с нуля. Это плотная модель на 8 млрд параметров, использующая диффузионный подход к генерации текста; репозиторий содержит веса в формате Safetensors и поддерживает Transformers. Модель предназначена для генерации текста и может служить базой для диалоговых сценариев и дальнейшей адаптации. В карточке заявлено, что по результатам разработчиков она сопоставима по качеству с LLaMA 3 8B. Данных о поддерживаемых языках и длине контекста в предоставленных источниках нет. Модель распространяется по лицензии MIT. Карточка сообщает об обновлении кода для поддержки attention_mask, но не приводит подробных ограничений или результатов оценки для отдельных задач.

TheTravellingEngineer выпустил дообученную методом supervised fine-tuning чат-модель на базе Meta Llama 2 7B Chat. Она использует датасет OpenAssistant OASST1, а формат запросов похож на Guanaco. Модель предназначена для генерации ответов в диалоге и других текстовых задач, выполняемых через text generation. Модель имеет плотную архитектуру LlamaForCausalLM примерно на 6,6 млрд параметров, принимает текст и выдаёт текст. Контекст — до 4096 токенов; поддерживаемый язык по карточке — английский. В репозитории указаны веса safetensors и слитая версия модели в fp16. Применяются ограничения лицензии исходной Llama 2; модель предоставляется без гарантий.

sharpbai/Llama-2-7b-hf — версия предварительно обученной языковой модели Llama 2 от Meta, размещённая в формате Transformers и разбитая на части для загрузки. Это авторегрессионная плотная модель на архитектуре Transformer с 6,6 млрд параметров; она принимает текст и генерирует текст, а её контекст составляет 4096 токенов. Модель предназначена для генерации текста на английском языке и может служить основой для различных задач обработки естественного языка. Это базовая предварительно обученная версия, а не вариант Llama-2-Chat, настроенный для диалога. Семейство Llama 2 обучалось на публично доступных данных; данные предварительного обучения охватывают период до сентября 2022 года. Модель разработала Meta. Для использования весов требуется принять специальную лицензию Meta для Llama 2; карточка допускает коммерческое и исследовательское применение при соблюдении её условий. Модель может выдавать неточную, предвзятую или нежелательную информацию; перед применением в конкретном продукте рекомендуется провести оценку безопасности и настройку.

Это экспериментальный чекпойнт языковой модели на базе meta-llama/Llama-3.1-8B-Instruct, дообученный методом Nash Bargaining Preference Optimization (NBPO) на UltraFeedback. Модель предназначена для диалоговой генерации текста с акцентом на следование инструкциям, правдивость, честность и полезность. В карточке описан вариант с 600 обновлениями оптимизатора; указано, что он отличается от опубликованной конфигурации бюджетом обучения. На отложенных запросах его показатель соответствия оценкам (nMSE 0,9836) близок к варианту с меньшим числом обновлений, а частота побед по худшему из отдельных критериев составляет 0,537 против 0,524. Модель использует архитектуру Llama с 7,5 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Это экспериментальная конфигурация для изучения чувствительности NBPO к бюджету обновлений, а не заявленная авторами основная конфигурация. Оценка в карточке выполнена моделью Llama-3.3-70B-Instruct на промптах, не использовавшихся при обучении; результаты могут не переноситься на другие наборы данных и критерии. Лицензия — Llama 3.1 Community License.

AQUABOT/Llama-3.2-3B-TechQA — дообученная языковая модель семейства Llama 3.2, разработанная AQUABOT на базе unsloth/llama-3.2-3b-instruct-unsloth-bnb-4bit. Модель содержит 3,2 млрд параметров, использует плотную архитектуру LlamaForCausalLM и рассчитана на генерацию текста в диалоговом формате. Заявленное контекстное окно — 131 072 токена. Модель предназначена для ответов на технические вопросы и других сценариев генерации текста. При обучении использовались Unsloth и библиотека Hugging Face TRL. В метаданных указана возможность chat и интерфейс для вызова инструментов; основной язык карточки — английский. Модель распространяется по лицензии Apache-2.0. Карточка не содержит сведений о составе обучающих данных, оценках качества или конкретных технических темах, поэтому точность ответов и охват предметных областей не подтверждены.

Llama-3-6B-Instruct-pruned — экспериментальная текстовая модель kuotient, созданная с помощью mergekit из слоёв Meta-Llama-3-8B-Instruct. В конфигурации объединения passthrough сохранены слои 0–20 и 29–31 исходной модели; размер модели — 5,8 млрд параметров, контекст — 8192 токена. Модель предназначена для генерации текста и диалоговых ответов. Автор отмечает, что после объединения модель не проходила постобучение или «исцеление» весов, поэтому её качество и устойчивость могут быть ограничены. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Метаданные указывают базовую модель Meta-Llama-3-8B-Instruct; лицензия в доступных данных не установлена.

Dogge/llama-3-70B-instruct-uncensored — дообученная разговорная языковая модель, разработанная Dogge на базе unsloth/llama-3-70b-Instruct-bnb-4bit. Это плотная модель семейства Llama 3 с архитектурой LlamaForCausalLM и 69,5 млрд параметров; она предназначена для генерации текста в диалоге и использует контекст до 8192 токенов. При обучении применялись Unsloth и библиотека Hugging Face TRL. Модель принимает текст и генерирует текстовые ответы, подходит для диалогов и свободной генерации. Метка «uncensored» указывает на ослабленные ограничения ответов, однако README не описывает конкретные настройки такого поведения или результаты оценки качества. Указанная лицензия — Apache 2.0.

LLaMa-3-Base-Zeroed-13B — плотная авторегрессионная языковая модель семейства Llama, созданная сообществом mergekit-community с помощью mergekit. В README указано, что это слияние предварительно обученных моделей методом passthrough на основе Undi95/Meta-Llama-3-8B-hf; метаданные также помечают её как дообучение этой базовой модели. Репозиторий содержит веса safetensors, библиотека — Transformers, размер — около 12,5 млрд параметров, длина контекста — 8192 токена. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и выдаёт продолжение или ответ в текстовом виде; базовая модель рассчитана прежде всего на английский текст и код. README не сообщает об отдельных тестах качества или специализированных областях применения. Лицензия в предоставленных данных не указана.

LLaMA3-iterative-DPO-final-ExPO — языковая модель семейства LLaMA 3, разработанная с применением метода ExPO из работы «Weak-to-Strong Extrapolation Expedites Alignment». Это плотная авторегрессионная модель на 7,5 млрд параметров с контекстом до 8192 токенов, представленная в формате safetensors и предназначенная для диалоговой генерации текста на английском языке. Модель получена экстраполяцией с коэффициентом alpha = 0,3 весов SFT- и DPO/RLHF-чекпойнтов: RLHFlow/LLaMA3-iterative-DPO-final и RLHFlow/LLaMA3-SFT. Она ориентирована на ответы в чате и лучшее соответствие человеческим предпочтениям; в README приведены результаты оценок на AlpacaEval 2.0 и MT-Bench для ряда моделей после применения ExPO. Модель доступна по лицензии llama3. В карточке показана англоязычная поддержка; сведения о других языках или дополнительных режимах ввода не приведены.

LLaMA-7B-HF — преобразованная в формат Transformers версия языковой модели LLaMA, опубликованная Neko Institute of Science. Это плотная авторегрессионная модель с архитектурой LlamaForCausalLM и примерно 6,6 млрд параметров; она предназначена для генерации текста. Контекст модели составляет 2048 токенов. Репозиторий содержит веса PyTorch и Safetensors. Для использования требуется соблюдать специальную лицензию и условия, изложенные в файле LICENSE. README также предупреждает, что в упомянутой торрент-копии устарели tokenizer_config.json и special_tokens_map.json; эти файлы следует заменить версиями из карточки модели.

Это дообученная модель IBM Granite 3.3 2B Instruct, опубликованная пользователем logan7000. Модель основана на плотной архитектуре GraniteForCausalLM и содержит 2,5 млрд параметров; для запуска указана библиотека Transformers. Она предназначена для генерации текста в диалоговом формате и ответов на пользовательские запросы. Модель обучалась с помощью TRL; в метаданных также отмечен GRPO. Контекстное окно составляет 131 072 токена. В карточке приведён пример диалогового запроса, но специальных областей применения и поддерживаемых языков не заявлено. Лицензия в предоставленных данных не указана.

LongRAG_Ministral-8B-Instruct — языковая модель для генерации текста и диалогов, созданная дообучением Bui1dMySea на базе mistralai/Ministral-8B-Instruct-2410 на датасете LRGinstruction. Модель имеет плотную архитектуру MistralForCausalLM и 7,5 млрд параметров; доступна в формате Safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для текстовых диалогов и генерации ответов в сценариях, где требуется работать с длинным контекстом. В README приведён результат оценки на тестовой выборке: loss 0,0567; дополнительных сведений о методике оценки и качестве для конкретных задач нет. Использование чата подтверждается метаданными, но специальных возможностей RAG или поиска документов карточка не описывает. Лицензия указана как other, поэтому условия использования следует сверить с лицензией и файлами репозитория на Hugging Face. README не раскрывает ограничения модели и подробности обучения.

Magnum-v2-4b — диалоговая языковая модель Anthracite, восьмая в серии моделей, нацеленных на воспроизведение качества прозы Claude 3 Sonnet и Opus. Модель дообучена на базе IntervitensInc/Llama-3.1-Minitron-4B-Width-Base-chatml; метаданные связывают её также с nvidia/Llama-3.1-Minitron-4B-Width-Base. Это плотная причинная архитектура Llama с 3,9 млрд параметров. Модель предназначена для диалоговой генерации текста и настроена на формат ChatML. В README заявлена длина контекста 131 072 токена; метаданные указывают английский язык. Веса доступны в формате safetensors, лицензия — Apache-2.0. README сообщает о полном дообучении в течение двух эпох. Модель ориентирована на связную прозу и ответы в диалоге. Карточка не приводит количественных оценок качества или подробных ограничений, поэтому пригодность для конкретных сценариев следует оценивать на собственных примерах.

magnum-v4-22b-GGUF — это набор GGUF-квантизаций языковой модели magnum-v4-22b, разработанной организацией anthracite-org и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и LM Studio. Указан английский язык и формат взаимодействия [INST]…[/INST]. Базовая модель содержит около 22 миллиардов параметров. Доступны варианты от F16 до низкобитных Q2 и IQ2-квантизаций, размер файлов составляет примерно от 6,65 до 44,50 ГБ. Квантизации выполнены с использованием imatrix и llama.cpp release b3930; отдельные варианты применяют Q8_0 для embedding- и output-весов, что может улучшать сохранение качества. Более точные варианты требуют больше памяти, а компактные варианты экономят ресурсы ценой снижения качества. Данные о контекстном окне, архитектуре, дополнительных модальностях и результатах бенчмарков не приведены. Модель поддерживает только текстовую генерацию, поэтому подходит для локальных чат-ботов и других задач создания текста на английском языке. Лицензия обозначена как MRL; её подробные условия в README не раскрыты.

Marx-3B-V2 — языковая модель acrastt, созданная дообучением OpenLLaMA 3B V2 на датасете EverythingLM Data V2 в формате ShareGPT в течение двух эпох. Это плотная Llama-модель с 3,3 млрд параметров, предназначенная для генерации текста и диалоговых ответов по шаблону HUMAN/RESPONSE. Метаданные указывают на библиотеку Transformers и веса PyTorch в формате Safetensors; карточка также упоминает доступность вариантов квантования q4_1 в форматах GGML и GGUF. Модель подходит для диалоговых прототипов, генерации текста и ответов на запросы на английском языке. В карточке приведены результаты отдельных тестов рассуждения и commonsense: AI2 Reasoning Challenge — 44,03, HellaSwag — 72,92; эти показатели не описывают качество во всех сценариях. Контекст составляет 2048 токенов. Лицензия — Apache-2.0.

Matter-0.2-7B-DPO — диалоговая языковая модель на 7,1 млрд параметров, созданная 0-hero как DPO-версия Matter 7B, дообученной на наборе Matter. Она основана на плотной архитектуре Mistral и предназначена для генерации ответов в диалоге, а также поддерживает вызов функций. Для общения используется формат ChatML; заявлена длина контекста 32 768 токенов. Модель работает с текстом на английском языке. Модель распространяется в форматах PyTorch и Safetensors по лицензии Apache 2.0. README описывает её дообучение методом DPO на датасете Matter, собранном из более чем 35 наборов данных и охватывающем свыше 6 млрд токенов. Приведены результаты оценки на Open LLM Leaderboard, однако они не дают полной картины качества для конкретных сценариев; заявленная поддержка вызова функций также требует совместимого формата запросов.

Mayoroya — объединённая диалоговая языковая модель, созданная Eric111 с помощью mergekit на основе Eric111/Mayo и Eric111/Roya. Она предназначена для генерации текста в формате диалога и ответов на инструкции. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В README указан метод слияния SLERP с настройками, различающимися для слоёв self-attention и MLP. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Карточка не описывает отдельные специализированные области применения или подтверждённые языки.

SJTU-DENG-Lab/MBD-Code-SDAR-8B-Chat-b4 — разговорная языковая модель из семейства SDAR, опубликованная SJTU-DENG-Lab как часть проекта Multi-Block Diffusion Language Models. Модель имеет плотную архитектуру SDARForCausalLM с 7,6 млрд параметров и контекстом до 32 768 токенов; веса доступны в формате safetensors для Transformers. Модель предназначена для генерации текста в диалоговом режиме. Подход MBD-LM использует многоблочную диффузионную генерацию: последовательные блоки текста декодируются параллельно, а обучение Multi-block Teacher Forcing нацелено на согласование обучения с состояниями практического вывода MultiBD. В README не приведены конкретные языковые или предметные специализации, поэтому модель следует считать универсальной разговорной генеративной моделью. Лицензия — MIT. README не сообщает результатов оценки качества или ограничений применения; качество ответов и пригодность для конкретной задачи следует проверять отдельно.