II.1Анализ требований и архитектура ПО

Kaballas/T21Model — языковая модель семейства Qwen2, разработанная Kaballas и дообученная на Kaballas/T14Model4bit. Она предназначена для генерации текста и может использоваться в сценариях, где требуется продолжать или создавать текст по текстовому запросу. Модель содержит 7,1 млрд параметров и поддерживает контекст длиной до 131 072 токенов. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL; в репозитории представлены веса Safetensors. Лицензия — Apache 2.0. Карточка не описывает специализированные области применения или измеренные показатели качества.

Terminal-complete — дообученная модель Qwen/Qwen3-8B, созданная автором cuong1692001 на наборе данных qwen_data_complete. Это плотная авторегрессионная языковая модель на 7,6 млрд параметров для генерации текста и диалогового взаимодействия; контекст — до 40 960 токенов. Карточка не описывает конкретные сценарии применения, обучение или результаты оценки, поэтому возможности исходной Qwen3-8B не следует автоматически считать проверенными для этой версии. Модель распространяется в формате Safetensors; лицензия указана как other, её условия нужно уточнить перед использованием.

Behemoth-128B-v3-GGUF — квантизированная версия текстовой генеративной модели TheDrummer Behemoth-128B-v3, подготовленная пользователем bartowski в формате GGUF с использованием llama.cpp. Модель содержит около 125 млрд параметров и предназначена для генерации текста в локальных приложениях и инструментах, совместимых с llama.cpp. Модель поддерживает только текстовый ввод; сведения о языках, архитектуре и размере контекстного окна в README не указаны. Доступны варианты от BF16 и Q8_0 до более компактных IQ3 и Q3, что позволяет выбирать между качеством и требованиями к памяти. Для большинства сценариев автор рекомендует Q4_K_M размером около 78,41 ГБ, а варианты Q5 и Q6 обеспечивают более высокое качество при ещё больших требованиях к ресурсам. К сильным сторонам относятся большой объём параметров, широкий выбор уровней квантизации и поддержка imatrix-квантизации. Ограничениями являются очень высокие требования к оперативной памяти или видеопамяти, отсутствие speculative decoding и неизвестные показатели perplexity или KLD. Лицензия модели — Apache License 2.0.

TheDrummer_Rocinante-X-12B-v1-GGUF — это набор квантованных версий языковой модели Rocinante-X-12B-v1, разработанной TheDrummer и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и локального запуска в совместимых приложениях и инструментах, включая llama.cpp, LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. Модель имеет размер 12 миллиардов параметров и относится к текстовым моделям без заявленной поддержки дополнительных модальностей. Доступны варианты от BF16 и Q8_0 до более компактных IQ- и Q2-квантований с размером файлов примерно от 5 до 24,5 ГБ. Для диалогового использования в README указан формат промпта с системным сообщением и пользовательским запросом в шаблоне [INST]. Основное преимущество набора — широкий выбор квантований, позволяющий подобрать баланс между качеством, требованиями к памяти и скоростью локального вывода; варианты Q5 и Q6 отмечены как высококачественные, а Q4_K_M — как типичный вариант для большинства сценариев. Более сильное квантование может снижать качество генерации, а поддержка модели зависит от используемого программного обеспечения. Языки, размер контекста и лицензия в предоставленных данных не указаны.

Tensoic/TinyLlama-1.1B-3T-openhermes — инструкционно дообученная версия TinyLlama, созданная на датасете teknium/openhermes. Это плотная авторегрессионная языковая модель семейства Llama с примерно 1,1 млрд параметров, предназначенная для генерации текста по запросу и выполнения инструкций. В метаданных указан контекст до 4096 токенов и формат PyTorch. Карточка сообщает о значении loss 1,3647 и о настройке параметров оптимизации после резкого роста loss во время обучения. Модель опубликована по лицензии, указанной в метаданных Hugging Face.

T-Lite-instruct-0.1-abliterated — русскоязычная чат-модель семейства Llama, представленная как версия T-Lite-instruct без встроенных ограничений на ответы. Она предназначена для диалоговой генерации текста и выполнения запросов пользователя. Модель имеет плотную архитектуру LlamaForCausalLM и 7,5 млрд параметров, принимает текст и генерирует текст. Длина контекста составляет 8192 токена; в репозитории доступны веса safetensors. Карточка указывает русский язык и лицензию WTFPL.

giocorte/totem-slm-rl-v6 — дообученная giocorte модель семейства Qwen3 с 3,7 млрд параметров для генерации текста и диалогов. Она предназначена для англоязычного общения; карточка также отмечает интерфейс вызова инструментов. Модель обучена с использованием Unsloth и библиотеки TRL от Hugging Face. Доступны веса в форматах Safetensors и GGUF с квантизацией Q4_K_XL. Максимальная длина контекста — 40 960 токенов. Модель распространяется по лицензии Apache-2.0.

cloudyu/Truthful_DPO_cloudyu_Mixtral_34Bx2_MoE_60B — языковая модель, созданная cloudyu дообучением cloudyu/Mixtral_34Bx2_MoE_60B методом Direct Preference Optimization (DPO) на наборе предпочтений jondurbin/truthy-dpo-v0.1. Модель построена на архитектуре Mixtral с разреженной схемой Mixture-of-Experts и содержит 33,9 млрд параметров. Модель предназначена для генерации текста и ответов в диалоге; DPO-настройка направлена на улучшение соответствия ответов предпочтениям и правдивости. Заявленная длина контекста — 200 000 токенов. Доступные сведения не подтверждают конкретный набор поддерживаемых языков или специализированные прикладные области. Веса опубликованы в формате Safetensors по лицензии MIT. Карточка не приводит результатов оценивания качества: README отмечает, что метрики не тестировались, поэтому их нельзя считать подтверждёнными.

UltraMerge-7B — экспериментальная модель на 7,1 млрд параметров, разработанная mlabonne. Это плотная авторегрессионная модель семейства Mistral для генерации текста. Модель получена DPO-дообучением automerger/YamShadow-7B на наборах предпочтений truthy-dpo-v0.1, distilabel-intel-orca-dpo-pairs, chatml-OpenHermes2.5-dpo-binarized-alpha и ultrafeedback-binarized-preferences-cleaned. Модель предназначена для диалоговой генерации и следования инструкциям. Её родной контекст составляет 32 768 токенов. Автор не определил рекомендуемый шаблон чата и предполагает Mistral-Instruct или ChatML, поэтому для корректного использования потребуется проверить формат промптов. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

UNA-TheBeagle-7b-v1 — языковая модель от fblgit, дообученная на наборе The Bagel с применением DPO и UNA к отобранным парам предпочтений. В основе лежит модель Intel neural-chat; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров, доступная в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев. Её нативная длина контекста — 32 768 токенов. Автор сообщает о сбалансированных результатах в нескольких задачах и приводит оценку ARC, однако отмечает, что результаты запуска через vLLM могут отличаться от показателей leaderboard. Для модели не задан конкретный формат промпта; автор предлагает проверять совместимость с разными шаблонами. Лицензия CC BY-NC-ND 4.0 запрещает коммерческое использование и распространение производных версий; README указывает академическое и исследовательское применение.

UTIM21000steps1e7rateSFT — дообученная диалоговая модель на базе mistralai/Mistral-7B-Instruct-v0.2, разработчик — tsavage68. Модель предназначена для генерации текста и ответов в диалоговом формате; карточка сообщает о дообучении на неизвестном наборе данных и приводит значение loss 1,1047 на оценочном наборе. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Данных о специализации, поддерживаемых языках и конкретных ограничениях в карточке нет. Лицензия — Apache-2.0.

featherless-ai-quants/v2ray-Llama-3-70B-GGUF — набор GGUF-квантизаций модели v2ray/Llama-3-70B, подготовленный featherless-ai-quants. Модель предназначена для генерации текста и может применяться в сценариях локального или серверного запуска языковой модели, включая диалоговые приложения, создание и преобразование текста, а также другие задачи text-generation. В репозитории доступны варианты IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0. Размеры указанных наборов составляют примерно от 25 до 72 ГБ. GGUF обеспечивает выбор компромисса между требованиями к памяти, скоростью работы и сохранением качества, однако конкретные характеристики зависят от выбранного варианта. README не указывает архитектурные детали, размер контекста, поддерживаемые языки и модальности; из названия и pipeline_tag следует, что это текстовая модель. Сильная сторона набора — наличие множества уровней квантизации для разного оборудования и требований к качеству. Ограничения включают значительные требования к памяти даже для наиболее компактных вариантов, а также отсутствие в README данных о сравнительных результатах, качестве, тонкой настройке и рекомендуемых параметрах запуска. Лицензия в предоставленных материалах не указана.

RWKV/v6-Finch-7B-HF — совместимая с Hugging Face Transformers версия языковой модели Finch 7B от команды RWKV. Это плотная авторегрессионная модель семейства RWKV-6 с архитектурой Rwkv6ForCausalLM и 8,9 млрд параметров; веса доступны в форматах PyTorch и safetensors. Для загрузки README указывает использовать Transformers и AutoTokenizer с параметром trust_remote_code=True. Модель предназначена для генерации текста и общих языковых задач. В README приведены результаты Finch 7B в бенчмарках ARC, HellaSwag и MMLU; например, на MMLU указано 41,70%. Данных о поддерживаемых естественных языках и длине контекста в предоставленных источниках нет. Модель распространяется по лицензии Apache-2.0.

Vectorite-Pro-4B — дообученная Sup2Doggie языковая модель семейства Qwen3 для генерации текста и диалогового общения. В основе лежит unsloth/qwen3-4b-unsloth-bnb-4bit; для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель содержит 3,7 млрд параметров и поддерживает контекст до 40 960 токенов. Модель подходит для генерации ответов в чате и задач, сводящихся к продолжению или созданию текста. Метаданные отмечают интерфейс вызова инструментов, но README не описывает специальные навыки или результаты оценки качества. Модель распространяется по лицензии Apache-2.0.

Набор GGUF-квантизованных файлов модели vicgalle/Configurable-Llama-3.1-8B-Instruct, подготовленный командой featherless-ai-quants. Модель предназначена для генерации текста и выполнения инструкций в сценариях, где требуется локальный или совместимый с GGUF запуск. README указывает базовую модель и тег text-generation, но не раскрывает подробности её специфической функциональности. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 3,0 до 8,1 ГБ. В основе заявлена архитектура Llama 3.1 с размером 8B и инструкционной настройкой; поддерживаемые модальности, языки и размер контекста в README не указаны. Квантизация позволяет выбирать компромисс между размером файлов и потенциальным качеством, однако конкретные показатели производительности и потери качества не приведены. Лицензия и условия использования в README не указаны. Также отсутствуют сведения о разработчике базовой модели, бенчмарках, требованиях к оборудованию и ограничениях применения.

Vorenthos-Instruct-7b — разговорная модель для генерации текста, опубликованная vorenthiclabs как экспорт локальной установки Ollama. Модель имеет плотную архитектуру объёмом около 7,2 млрд параметров и распространяется в формате GGUF с шаблоном диалога; карточка рекомендует запуск через Ollama и также упоминает совместимость с llama.cpp и Transformers с поддержкой GGUF. Модель предназначена для диалогов и генерации текста. В метаданных указан базовый репозиторий Vorenthos-Instruct-7b и связь с ним типа finetune, однако README не описывает изменения при дообучении. Лицензия обозначена как other, поэтому условия использования следует проверять в материалах репозитория.

WestKunai-Hermes-10.7b-test — языковая модель для генерации текста, опубликованная seyf1elislam. Она создана из WestKunai-Hermes-7b с помощью конфигурации mergekit, повторяющей схему модели WestLake-10.7B-v2; в README описана сборка из перекрывающихся диапазонов слоёв исходной модели. Модель имеет плотную архитектуру MistralForCausalLM, около 10,6 млрд параметров и контекст до 32 768 токенов. Репозиторий содержит веса Safetensors; в README также упомянуты квантованные версии GGUF. Модель предназначена для генерации текста и общих диалоговых и языковых задач. В README приведены результаты Open LLM Leaderboard, включая ARC и HellaSwag; указанные средние результаты этой версии ниже, чем у исходной 7B-модели. Карточка не сообщает конкретный список поддерживаемых языков или специализированных областей. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

WinterGoliath-123b — текстовая генеративная модель на архитектуре Llama, созданная ChuckMcSneed с помощью mergekit путём объединения Xwin и WinterGoddess. В карточке автор описывает её как вариант Goliath с большей интеллектуальностью и более выраженным выравниванием, но с меньшей нейтральностью и развлекательностью; приведённые автором тесты носят неформальный характер. Модель предназначена для генерации текста и диалогов в формате Vicuna или Alpaca. Она содержит 123,5 млрд параметров и рассчитана на контекст до 4096 токенов. В репозитории указаны веса safetensors; README также упоминает квантизованные варианты GGUF, AWQ и GPTQ. Основной язык и отдельные специализированные области применения в карточке не обозначены. Лицензия — Llama 2. Выбор лицензии и связанные с ней условия использования следует учитывать при развёртывании модели.

yam-jom-7B-ties — языковая модель для генерации текста, созданная объединением моделей eren23/ogno-monarch-jaskier-merge-7b-OH-PREF-DPO-v2 и yam-peleg/Experiment26-7B с помощью LazyMergekit и метода TIES. Она основана на архитектуре Mistral, содержит 7,1 млрд параметров и имеет контекстное окно 32 768 токенов. Модель подходит для генерации текста и ответов на запросы; в карточке приведены результаты оценки на задачах рассуждения AI2 Reasoning Challenge и HellaSwag. Веса опубликованы в формате safetensors с лицензией Apache-2.0. README указывает тип данных bfloat16 при слиянии. Сведения о поддерживаемых естественных языках и специализированной области применения отсутствуют.

YamshadowExperiment28-7B — плотная языковая модель на архитектуре Mistral, автоматически созданная Максима Лабонном слиянием automerger/YamShadow-7B и yam-peleg/Experiment28-7B методом SLERP. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и имеет контекст до 32 768 токенов по метаданным. README рекомендует шаблон диалога Alpaca и упоминает контекст 8 тысяч токенов. Модель предназначена для генерации текста и диалоговых сценариев. В README заявлен высокий результат на Open LLM Leaderboard в апреле 2024 года, но автор предупреждает о вероятной переоптимизации под бенчмарки. Также модель может выдавать повторяющиеся фрагменты «INST». Лицензия — Apache 2.0.

Yamshadowexperiment28M70.52-0.68-0.85-0.75-0.05-0.09-7B — объединённая текстовая модель на архитектуре Mistral, созданная автором репозитория aaron-di на основе AurelPx/Percival_01-7b-slerp и liminerity/M7-7b. Она предназначена для генерации текста и диалогов; в README показан запуск через Transformers с шаблоном чата. Модель содержит 7,1 млрд параметров, имеет контекст до 32 768 токенов и распространяется в формате safetensors. Указана лицензия Apache-2.0. README не описывает специализацию, языковое покрытие или результаты оценки качества.

YamshadowInex12_AlloyingotneoyExperiment24 — объединённая модель генерации текста, созданная из automerger/YamshadowInex12-7B и automerger/AlloyingotneoyExperiment24-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; для генерации поддерживает контекст до 32 768 токенов. Модель предназначена для текстовых запросов и ответов, продолжения текста и диалоговых сценариев. Репозиторий распространяется в формате Safetensors по лицензии Apache 2.0. Карточка не описывает специализированную предметную область, языковую специализацию или результаты оценки качества, поэтому возможности модели следует рассматривать как общую генерацию текста.

YamshadowInex12_T3qm7xExperiment28 — слитая автором MaziyarPanahi языковая модель для генерации текста на архитектуре Mistral. Она объединяет модели automerger/YamshadowInex12-7B и automerger/T3qm7xExperiment28-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Файлы представлены в формате safetensors; лицензия — Apache-2.0. Подходит для генерации текста и диалоговых сценариев, однако README не уточняет специализацию слияния или сравнительные качества модели.

YamshadowStrangemerges_32_AlloyingotneoyExperiment28 — объединённая методом слияния модель на архитектуре Mistral, разработанная автором репозитория MaziyarPanahi на основе automerger/YamshadowStrangemerges_32-7B и automerger/AlloyingotneoyExperiment28-7B. Модель содержит 7,1 млрд параметров, использует формат Safetensors и принимает текст для генерации продолжений; максимальная длина контекста составляет 32 768 токенов. Модель предназначена для генерации текста общего назначения. Карточка не описывает специализированные сценарии, языки или сравнительные преимущества. Лицензия — Apache-2.0.

Minami-su/Yi_34B_Chat_2bit — чат-модель генерации текста на основе Yi объёмом 33,9 млрд параметров, представленная в 2-битной квантизации весов методом QuIP#. По README, такой формат рассчитан на запуск на GPU с 11 ГБ памяти и стремится приблизить качество к fp16 при существенно меньшем объёме весов. Модель построена на плотной архитектуре LlamaForCausalLM; нативный контекст составляет 4096 токенов. Модель предназначена для диалоговой генерации текста. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Карточка не описывает конкретные языки, наборы данных или результаты оценки качества.

hongzoh/Yi-Ko-6B_Open-Platypus — языковая модель, дообученная на наборе инструкций Open-Platypus на основе beomi/Yi-Ko-6B. Она предназначена для генерации текста и ответов на инструкции, включая вопросы и задачи общего характера. Модель имеет плотную архитектуру LlamaForCausalLM и содержит 5,9 млрд параметров; родной размер контекста — 2048 токенов. Модель работает с текстом и опубликована в форматах PyTorch и safetensors. Карточка указывает лицензию Apache-2.0. README не описывает отдельные гарантии качества или подробные ограничения применения.

YiSM-34B-0rn — текстовая диалоговая модель, созданная автором altomek путём слияния Yi-1.5-34B-Chat и Yi-1.5-34B. Она предназначена для генерации текста и ответов на инструкции, сохраняя при этом возможности базовой модели. В README приведены результаты оценок на Open LLM Leaderboard и настройки для запуска в SillyTavern. Модель основана на плотной архитектуре семейства Llama с 33,9 млрд параметров; метаданные указывают контекст 4096 токенов. Доступны веса Safetensors, а README также упоминает варианты GGUF и квантизации с разной точностью. Указана лицензия Apache-2.0. README называет вариант нейтральным и описывает баланс между доступностью и открытостью, но не приводит измерений безопасности или подробного списка поддерживаемых языков.

zen-eco-4b-instruct-i1-GGUF — квантованная версия языковой модели zenlm/zen-eco-4b-instruct, подготовленная mradermacher в формате GGUF. Базовая модель разработана командой ZenLM; в карточке указано семейство архитектуры Qwen3 и библиотека Transformers. Модель предназначена для генерации текста и диалоговых сценариев, включая работу локально через совместимые с GGUF инструменты. Модель имеет около 4 миллиардов параметров, поддерживает текстовую модальность и английский язык. Контекстное окно и дополнительные языки в карточке не указаны. Доступно множество вариантов квантизации с размерами примерно от 0,9 до 2,6 ГБ; среди них IQ- и Q4–Q6-варианты с различным компромиссом между размером, скоростью и качеством. В README рекомендуется i1-Q4_K_M как быстрый вариант, а i1-Q4_K_S описывается как оптимальный по размеру, скорости и качеству. Более агрессивные низкобитные варианты могут заметно терять в качестве. Сильными сторонами являются небольшой размер, возможность локального запуска и широкий выбор уровней квантизации. Ограничения связаны с отсутствием в карточке результатов бенчмарков, данных о контекстном окне и подробностей обучения; качество зависит от выбранного варианта квантизации. Модель распространяется по лицензии Apache-2.0.

Модель ShenaoZ/0.0005_betadpoinit_4iters_bs256_5551lr_iter_2 — дообученная версия ShenaoZ/0.0005_betadpoinit_4iters_bs256_5551lr_iter_1, опубликованная автором ShenaoZ. Это плотная авторегрессионная языковая модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Указанная длина контекста — 32 768 токенов. В карточке отмечено дообучение на наборах данных updated и original; теги указывают на применение DPO. Модель принимает текстовые запросы и генерирует текст. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Карточка не приводит сведений о качестве, оценках или конкретных сценариях применения, поэтому пригодность для задач, требующих высокой точности, следует проверять отдельно.

ShenaoZhang разработал эту модель как дообученную версию ShenaoZhang/0.001_4iters_bs128_nodpo_only4w_userresponse_iter_2. Это плотная авторегрессионная языковая модель Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Контекстное окно составляет 32 768 токенов; модель распространяется в формате Safetensors. Модель обучена на обновлённом и исходном наборах данных. Карточка не описывает конкретные сценарии, методику обучения или результаты оценки качества, поэтому её специализацию и сравнительную эффективность определить нельзя. Лицензия — MIT.