II.1Анализ требований и архитектура ПО

GPT-2 Large Alpaca — англоязычная авторегрессионная модель для генерации текста с настройкой на выполнение инструкций. Она создана на базе openai-community/gpt2-large (774 млн параметров) и дообучена методом supervised fine-tuning на 51 760 примерах набора yahma/alpaca-cleaned с использованием LoRA; затем адаптер объединён с базовыми весами. Модель использует архитектуру GPT-2 с 36 слоями, 20 головами внимания и размерностью скрытого состояния 1280. Контекст ограничен 1024 токенами. Модель предназначена для ответов на инструкции и запросы, а также для генерации продолжений текста. Для инструкций рекомендуется шаблон Alpaca. Веса сохранены в формате safetensors с точностью FP16; их можно использовать для инференса, оценки или последующей квантизации. Разработчик указан как локальное обучение с TRL и PEFT. Лицензия — MIT для базовой модели; README также указывает, что следует учитывать условия набора данных Alpaca.

h2ogpt-oasst1-512-20b — языковая модель H2O.ai на архитектуре GPT-NeoX, дообученная следовать инструкциям на данных OpenAssistant. В README указано 20 млрд параметров, а метаданные репозитория сообщают 26,9 млрд; для размера здесь использованы данные метаданных. Модель принимает текст и генерирует текст, использует библиотеку Transformers и имеет контекст длиной 2048 токенов. Модель предназначена для чат-ботов, ответов на вопросы и выполнения текстовых инструкций на английском языке. В README приведены результаты оценки на нескольких задачах, включая HellaSwag и BoolQ. Модель может выдавать неверные или нерелевантные ответы и воспроизводить предвзятый либо оскорбительный контент. Лицензия Apache-2.0.

HelpingAI-Lite-2x1B — англоязычная диалоговая модель генерации текста, разработанная OEvortex как дообучение HelpingAI-Lite. Она использует архитектуру Mixtral с механизмом смеси экспертов (MoE), содержит 1 млрд параметров и поддерживает контекст длиной до 2048 токенов. Модель предназначена для диалогов и генерации текста; в карточке также заявлено превосходство по точности над HelpingAI-Lite при немного более низкой скорости. Модель распространяется в формате Safetensors для библиотеки Transformers. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией репозитория.

HypoDiverse: LIFPO — дообученная диалоговая языковая модель, созданная viciousa3gis на базе Qwen/Qwen3-4B и оценённая на наборе HypoDiverse. В карточке описан чекпойнт после слияния весов, обученный методом LIFPO: скрытые идентификаторы генераций и кредит с поправкой на частоту помогают разным генерациям охватывать разные допустимые гипотезы; для проверки корректности используется тот же верификатор, что и в GRPO. Модель предназначена для генерации текста и диалогов, в частности для задач рассуждения и выдвижения разнообразных допустимых гипотез. Архитектура — плотная Qwen3ForCausalLM, около 3,7 млрд параметров; контекст — до 40 960 токенов. Репозиторий содержит веса в формате safetensors, библиотека — Transformers. Лицензия Apache-2.0. Результаты зависят от задачи и качества проверяющей функции; README не приводит численных сравнений качества и подробной оценки ограничений. Это текстовая модель, поэтому она не принимает изображения, аудио или видео как отдельные входные модальности.

chargoddard/internlm2-7b-llama — версия InternLM2-7B, преобразованная в формат весов Llama. Репозиторий создан пользователем chargoddard; исходная модель — internlm/internlm2-7b. Модель предназначена для генерации текста. Она содержит 7,4 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 32 768 токенов. В метаданных указаны английский и китайский языки. Карточка не приводит отдельных оценок качества или прикладных преимуществ. Использование регулируется лицензией исходной модели InternLM; в метаданных она обозначена как other.

JOSIExMistral-7B-v0.32 — текстовая авторегрессионная модель семейства Mistral, опубликованная Goekdeniz Guelmez и основанная на Mistral-7B-Instruct-v0.2. Автор добавил пользовательские специальные токены и описывает модель как основу для дальнейшего обучения на собственном наборе данных. В метаданных указана связь дообучения с mistralai/Mistral-7B-Instruct-v0.3; сведения о базовой версии в README и метаданных расходятся. Модель имеет около 7,1 млрд параметров, архитектуру MistralForCausalLM и принимает текст для генерации текста, в том числе диалоговых ответов. Контекст — до 32 768 токенов; заявленная библиотека — Transformers, формат файлов — Safetensors. README не сообщает, на каких языках обучалась или проверялась модель. Лицензия в предоставленных сведениях не указана. Карточка описывает изменённые BOS/EOS-токены, но не приводит их значения в доступном тексте и не содержит оценки качества или подробностей обучения; совместимость с шаблонами токенизации и инструкций базовой модели может отличаться.

Kosmos-EVAA-TSN-v21-8B — слитая языковая модель семейства Llama, созданная автором jaspionjader с помощью mergekit. Модель объединяет Kosmos-EVAA-TSN-v20-8B и Kosmos-EVAA-TSN-light-8B методом SLERP; архитектура — плотная авторегрессионная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 8192 токенов. Модель предназначена для генерации текста и сценариев, где требуется языковая модель с контекстом средней длины. Данные не уточняют специализацию или поддерживаемые естественные языки, поэтому нельзя уверенно выделить отдельные прикладные области или основной язык. В репозитории указаны веса Safetensors; метаданные называют Transformers используемой библиотекой. Сведения о лицензии и оценках качества отсутствуют в предоставленных источниках.

Laguna-XS-2.1-4bit — это 4-битная квантованная версия модели poolside/Laguna-XS-2.1, преобразованная сообществом mlx-community в формат MLX. Модель предназначена для генерации текста и локального запуска на устройствах Apple Silicon; в метаданных указана архитектура Laguna. Размер исходной модели и число параметров не приведены, язык модели и размер контекстного окна также не указаны. Ключевая характеристика этой версии — квантование до 4 бит с group size 64 и эффективной плотностью 4,503 бита на вес. Размер файлов составляет около 18 ГБ. Модель совместима с mlx-vlm и oMLX при принудительном включении режима VLM, однако mlx-lm пока не поддерживает архитектуру Laguna. В README отмечается редкое появление пустого тега </think> в начале ответа, не влияющее на работу модели. По приведённым измерениям на MacBook Pro с M5 Max, 128 ГБ памяти и 40-ядерным GPU скорость генерации составляет от 126,0 токена в секунду для запроса с контекстом 1 тыс. токенов до 91,3 токена в секунду для 32 тыс. токенов; пиковое потребление памяти — от 18,2 до 19,8 ГБ. Эти показатели зависят от оборудования и относятся к одиночным запросам с генерацией 128 токенов. Модель распространяется по лицензии OpenMDW-1.1, унаследованной от базовой модели.

dhmeltzer/Llama-2-13b-hf-ds_eli5_1024_r_64_alpha_16_merged — плотная авторегрессионная модель семейства Llama 2 с 12,9 млрд параметров и контекстом 4096 токенов. Метаданные указывают задачу генерации текста; в README приведены результаты оценки на Open LLM Leaderboard. Название репозитория содержит обозначения ds_eli5 и merged, но README и метаданные не поясняют происхождение слияния, обучение на ELI5 или его настройки. Лицензия и целевые языки в предоставленных данных не раскрыты.

TheTravellingEngineer/llama2-7b-hf-guanaco — языковая модель на архитектуре Llama 2, дообученная методом supervised fine-tuning на датасете OpenAssistant Guanaco. Репозиторий содержит объединённую модель в формате fp16; число параметров составляет 6,6 млрд, контекст — до 4096 токенов. Модель предназначена для генерации текста в диалоговом формате и ответов на запросы по промпту, близкому к исходному Guanaco. В карточке указан английский язык. Модель распространяется по лицензии Llama 2 и подпадает под ограничения использования исходной модели; гарантий качества нет.

ewqr2130/llama2-7b-raw-sft — дообученная методом supervised fine-tuning (SFT) языковая модель семейства Llama 2, представленная в формате safetensors. Репозиторий содержит плотную авторегрессионную архитектуру LlamaForCausalLM примерно на 6,6 млрд параметров; базовая модель и датасет для дообучения в карточке не названы. Модель предназначена для генерации текста. Контекст составляет до 4096 токенов. В карточке нет сведений о языках обучения, диалоговых возможностях и конкретных сценариях настройки, поэтому применимость к отдельным задачам и языкам оценить нельзя. Указана лицензия MIT.

Minbyul/llama2-7b-wo-live_qa-sft — дообученная модель генерации текста на основе Meta Llama 2, созданная на базе meta-llama/Llama-2-7b-hf. Модель с плотной архитектурой LlamaForCausalLM содержит 6,6 млрд параметров и рассчитана на контекст до 4096 токенов. Модель дообучена методом SFT на наборе HuggingFaceH4/deita-10k-v0-sft. Она предназначена для генерации текста и адаптации к инструкциям в текстовых сценариях; в README приведено значение loss 1,4111 на оценочном наборе. Подробности о целевых сценариях и результатах по отдельным задачам не приведены. Модель принимает и выдаёт текст. Базовая Llama 2 описана как англоязычная; отдельные сведения о языках дообучения отсутствуют. Файлы представлены в формате safetensors. Лицензия в предоставленных данных не указана.

Модель Na0s/Llama-3.1-8B-Pruned-4-Layers_LoRA-PEFT — дообученная с помощью LoRA-PEFT языковая модель семейства Llama 3.1, основанная на Na0s/Llama-3.1-8b-Pruned-4-Layers. Она предназначена для генерации текста и может использоваться в сценариях, где нужен ответ или продолжение текста по текстовому запросу. Модель содержит 6,4 млрд параметров, использует архитектуру LlamaForCausalLM и принимает контекст до 131 072 токенов. Для обучения применялся набор Open-Orca/SlimOrca. В README приведён результат 0,2937 на MMLU Pro в режиме zero-shot; данных для сравнения с базовой моделью или оценки качества на других задачах нет. Модель распространяется по лицензии Apache-2.0. Информация о целевых языках и специализированных предметных областях не приведена.

JDBMG/Llama3-8B-SlimOrca_f16 — чат-модель на архитектуре Llama 3, разработанная JDBMG путём дообучения unsloth/llama-3-8b-bnb-4bit с использованием Unsloth и библиотеки Hugging Face TRL. Модель содержит 7,5 млрд параметров и предназначена для генерации текста в диалоговом формате; её контекст составляет 8192 токена. Модель принимает текст и выдаёт текст. В метаданных указан английский язык. Репозиторий содержит веса PyTorch. Лицензия — Apache-2.0. Карточка не описывает специализированные области применения или результаты оценки качества.

Это дообученная модель KKHYA/llavaqwen3-1.7b-finetune с 1,7 млрд параметров, опубликованная автором под лицензией Apache-2.0. Она использует архитектуру NMMaskMoELLaVAQwen3ForCausalLM и предназначена для генерации текста и диалогов; также заявлен интерфейс вызова инструментов. Модель работает с текстом и имеет контекстное окно до 40 960 токенов. Карточка не описывает обучающий набор данных, специализированные сценарии и результаты оценки качества. Поэтому пригодность для конкретных задач следует проверять отдельно; вызов инструментов предполагает наличие соответствующей обвязки в приложении.

Карточка модели Kailune-AI/mamba-gpt-7b-v2 на Hugging Face совпадает с карточкой CobraMamba/mamba-gpt-7b-v2, поэтому описание составлено по ней. CobraMamba/mamba-gpt-7b-v2 — языковая модель для генерации текста, дообученная на базе mistralai/Mistral-7B-v0.1. В README приведены результаты оценки на задачах Open LLM Leaderboard, включая ARC и HellaSwag; модель предназначена для экспериментов и прикладных сценариев генерации текста. По метаданным это плотная архитектура MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов, доступная в форматах PyTorch и safetensors для Transformers. Модель принимает текст и генерирует текст; в карточке указан английский язык. Репозиторий распространяется по лицензии Apache-2.0. Ответы могут быть ошибочными или нерелевантными, а обучающие данные могут приводить к предвзятым или оскорбительным формулировкам; результаты следует проверять.

Mayonnaise-4in1-01 — англоязычная причинно-следственная языковая модель, разработанная The Kaitchup. Это плотная модель семейства Mistral на 7,1 млрд параметров с контекстом до 32 768 токенов, созданная с помощью mergekit методом TIES-merging из нескольких моделей на базе Mistral-7B. Она предназначена для генерации текста и ответов на запросы на английском языке. В карточке приведены результаты оценки на бенчмарках AI2 Reasoning Challenge и HellaSwag. Модель распространяется в формате Safetensors по лицензии Apache 2.0. Её заявленная область применения — генерация текста общего назначения; доступные сведения не подтверждают специализированные возможности или поддержку других языков. Результаты бенчмарков не гарантируют качество для конкретных пользовательских задач.

MFANN-liminerity-slerp-V4 — слитая языковая модель семейства Phi, созданная с помощью mergekit. В основе слияния — liminerity/Phigments12; также объединены netcat420/MFANN-liminerity-slerp-3a и netcat420/MFANN-Phigments12-slerp методом TIES с нормализацией весов. Модель предназначена для генерации текста и построена как плотная авторегрессионная архитектура PhiForCausalLM. Она содержит 3,5 млрд параметров, принимает текстовый ввод и генерирует текст; заявленная длина контекста — до 131 079 токенов. Репозиторий содержит веса в формате safetensors и рассчитан на использование с библиотекой Transformers. Карточка не описывает конкретные специализации, языки или результаты оценки качества, поэтому пригодность для отдельных предметных областей и языков по ней установить нельзя. Лицензия в предоставленных данных не указана.

MHENNlitv2 — дообученная текстовая генеративная модель на архитектуре Mistral, созданная автором репозитория netcat420. Она обучена на наборе данных MHENNlitv2 и основана на Mistral Instruct v0.1. Модель содержит около 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в формате инструкций. В репозитории доступны веса Safetensors, а также 4-битная квантованная версия GGUF MHENNlitv2Q4_K_M.gguf, подходящая для запуска в совместимом локальном ПО. README не уточняет специализацию датасета и конкретные сценарии применения. Условия лицензирования в предоставленных данных не описаны.

Undi95/Mistral-11B-OmniMix — экспериментальная текстовая языковая модель на архитектуре Mistral, собранная автором из нескольких моделей Mistral-7B с помощью mergekit. В репозитории размещены веса FP16; модель содержит 10,6 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации ответов на инструкции и общих текстовых задач. README приводит результаты оценок на тестах и рекомендует шаблон промпта с описанием задачи и запросом пользователя. Автор отмечает, что эта версия — тестовая и имеет некорректный формат точности; исправленная версия указана как NeverSleep/Mistral-11B-OmniMix-bf16. Для использования требуется учитывать экспериментальный статус и возможные проблемы качества, связанные с ошибкой в формате весов. Лицензия — CC BY-NC 4.0, допускающая использование с атрибуцией и запрещающая коммерческое применение.

biggesto/mistral_aida — дообученная языковая модель семейства Mistral, разработанная biggesto на базе unsloth/mistral-7b-v0.3-bnb-4bit. Она предназначена для генерации текста; карточка не описывает специализацию или конкретные сценарии применения. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Для обучения применялись Unsloth и библиотека Hugging Face TRL. Модель распространяется по лицензии Apache-2.0. В карточке не приведены результаты оценки качества и подробности обучающих данных, поэтому пригодность для конкретных задач следует проверять отдельно.

Dumpling-Qwen2.5-32B-v2-GGUF — набор квантизированных GGUF-версий текстовой генеративной модели Dumpling-Qwen2.5-32B-v2, разработанной nbeerbower и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Доступны варианты квантизации от Q8_0 до форматов Q3 и IQ3/IQ4, с размером файлов примерно от 14,81 до 34,82 ГБ. Более крупные варианты обеспечивают более высокое качество, а младшие позволяют снизить требования к оперативной памяти; среди рекомендуемых указаны Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS. Для взаимодействия указан шаблон prompt в формате ChatML с маркерами <|im_start|> и <|im_end|>. Это текстовая модель без заявленной поддержки изображений или других модальностей. В README не указаны контекстное окно, поддерживаемые языки, точная архитектура и результаты бенчмарков, поэтому эти характеристики нельзя оценить по доступным данным. Ограничения зависят от выбранного уровня квантизации и доступных ресурсов; варианты с меньшим размером могут обеспечивать более низкое качество. Лицензия — Apache-2.0.

Neural-Krishna-Multiverse-7b-v3 — языковая модель для генерации текста, созданная объединением моделей Neural-Krishna-Multiverse-7b-v2 и yam-peleg/Experiment26-7B с помощью LazyMergekit. Это плотная архитектура Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Объединение выполнено методом SLERP; веса опубликованы в формате SafeTensors. Модель подходит для генерации продолжений и ответов на текстовые запросы в экспериментах и прикладных сценариях с LLM. Лицензия Apache-2.0 разрешает использование на её условиях. В карточке не описаны поддерживаемые языки и результаты оценки качества.

NeuralsirkrishnaShadow_Experiment27Experiment29 — объединённая модель для генерации текста, созданная путём слияния automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment27Experiment29-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста по текстовому запросу, а её контекстное окно составляет до 32 768 токенов. Модель опубликована в формате Safetensors под лицензией Apache-2.0. Карточка не описывает специализированные области применения или подтверждённые языковые возможности, поэтому её следует рассматривать как экспериментальную модель общего назначения; качество и поведение могут зависеть от запроса.

NeuralsirkrishnaShadow_Strangemerges_32Experiment26 — слитая текстовая модель на архитектуре Mistral с 7,1 млрд параметров, созданная на основе automerger/NeuralsirkrishnaShadow-7B и automerger/Strangemerges_32Experiment26-7B. Она предназначена для генерации текста и может обрабатывать контекст до 32 768 токенов. Модель подходит для генерации продолжений и ответов на текстовые запросы. Данных о специальных предметных областях и языковой специализации в карточке нет. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

Orcaalpaca3b — авторская дообученная модель Pankaj Mathur на архитектуре OpenLLaMA-3B. Она обучена на примерно 52 тысячах примеров Alpaca с объяснениями: при подготовке датасета использованы системные инструкции и подходы к формированию данных из исследовательской работы Orca, а в качестве учителя указан ChatGPT gpt-3.5-turbo-0301. Модель предназначена для генерации текста и ответов на инструкции на английском языке. Модель имеет 3,3 млрд параметров, архитектуру LLaMA и контекст 2048 токенов; веса доступны в форматах PyTorch и safetensors. Её можно использовать для ответов на вопросы, выполнения инструкций и создания объяснений в компактных локальных приложениях. Лицензия CC BY-NC-SA 4.0 требует указания авторства и ограничивает коммерческое использование; производные материалы должны распространяться на тех же условиях.

Phi-3-mini-128k-instruct-abliterated-v3 — экспериментальная версия Microsoft Phi-3-mini-128k-instruct, подготовленная автором failspy. Это плотная авторегрессионная модель для генерации текста с диалоговыми возможностями и поддержкой кода; размер — 3,7 млрд параметров, веса представлены в safetensors. Несмотря на название, в метаданных указан контекст 4096 токенов. Автор применил к весам bfloat16 ортогонализацию, чтобы ослабить склонность исходной модели отказывать в ответах, сохранив остальные возможности. Модель предназначена для диалогов и генерации текста и кода. В README автор отмечает, что она может галлюцинировать чаще исходной модели, иногда продолжает отказывать и может иметь побочные эффекты от новой методики. Лицензия — MIT.

bhenrym14/platypus-yi-34b — языковая модель, созданная дообучением chargoddard/Yi-34B-Llama на наборе инструкций garage-bAInd/Open-Platypus. Базовая модель — 01-ai/Yi-34B; веса QLoRA-дообучения ранга 64 объединены с базовой моделью. Используется архитектура LlamaForCausalLM с определениями модели и токенизатором Llama 2, а файлы опубликованы в формате Safetensors. Модель предназначена для генерации текста по инструкциям и ответов в стиле legacy-системного промпта Airoboros до версии 2.0. Размер составляет 33,9 млрд параметров, контекст — до 4096 токенов. Она принимает текст и выдаёт текст. Автор отмечает, что чекпойнт мог быть недостаточно обучен: он сохранён после одной эпохи, а при дальнейшем обучении наблюдалось ухудшение качества. Для применения следует учитывать возможную нестабильность ответов. Лицензия указана как other, поэтому условия использования нужно уточнить у автора или в репозитории.

Это GGUF-квантизированная версия языковой модели pokee_research_7b, разработанной PokeeAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. В доступных данных указано, что модель содержит около 7 миллиардов параметров и распространяется в форматах с различными уровнями квантизации — от BF16 до Q2_K_L. Размер файлов составляет примерно от 3,55 до 15,24 ГБ. Более точные сведения об архитектуре, поддерживаемых языках, модальностях и размере контекста в карточке отсутствуют. Квантизация позволяет снизить требования к памяти, при этом варианты Q5 и Q6 заявлены как обеспечивающие высокое качество, а Q4_K_M — как оптимальный вариант по размеру для большинства сценариев. Модель подходит для локального вывода на совместимом оборудовании, однако качество зависит от выбранного варианта квантизации: компактные форматы экономят память, но могут сильнее снижать точность. Шаблон чата в карточке не указан, поэтому приведённый формат промпта может быть неточным; рекомендуется проверить оригинальную карточку базовой модели. Лицензия в предоставленных данных не указана.

ProCreations_grug-3b-GGUF — это квантизированная версия текстовой генеративной модели ProCreations/grug-3b, подготовленная пользователем bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска и генерации текста, включая сценарии с рассуждениями, эффективным использованием токенов, адаптивным reasoning и tool use. Указанный язык — английский. Модель имеет размер около 3 млрд параметров; точные сведения об архитектуре и размере контекста в README не приведены. Доступны варианты от BF16 до низкобитных квантов Q2–Q8 и IQ, что позволяет выбирать между качеством и требованиями к оперативной памяти. Для большинства сценариев рекомендуются варианты Q4–Q6; низкобитные версии подходят для систем с ограниченной памятью, но могут заметно уступать по качеству. Модель совместима с llama.cpp и рядом локальных интерфейсов, включая LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. README не содержит результатов сравнительных тестов, поэтому фактическое качество рассуждений, использования инструментов и генерации текста следует оценивать самостоятельно. Лицензия — Apache-2.0.