II.1Анализ требований и архитектура ПО

DeepSeek-R1-0528-Qwen3-8B-GGUF — квантизированная GGUF-версия модели DeepSeek-R1-0528-Qwen3-8B, разработанной командой DeepSeek. Квантизацию выполнил bartowski на основе llama.cpp, а модель распространяется в рамках сообщества LM Studio. Модель предназначена для генерации текста и задач, требующих рассуждений, включая математические задачи и другие сценарии, где важна способность выстраивать цепочку рассуждений. Она создана посредством дистилляции chain-of-thought из DeepSeek-R1-0528 в базовую модель Qwen3 8B. Заявлена поддержка контекста до 128 тысяч токенов и передовые результаты среди открытых моделей на AIME24. Модель относится к текстовым генеративным моделям; сведения о поддерживаемых языках и конкретной архитектуре, помимо основы Qwen3 8B, в README не приведены. Квантизированный формат может быть удобен для локального запуска, однако README не уточняет уровень квантизации, требования к памяти и производительность. Как и другие языковые модели, она может генерировать неточную, вредную или неподходящую информацию. Лицензия модели указана как MIT.

KnutJaegersberg/Deita-34b — языковая модель для генерации текста, построенная на архитектуре Llama с плотной схемой и 33,9 млрд параметров. Модель рассчитана на инструкции и диалоговые запросы; в README приведён пример ответа на вопрос о тонкой настройке языковой модели. Контекстное окно составляет 4096 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. В метаданных указан датасет KnutJaegersberg/Deita-6k; они не уточняют связь модели с базовым чекпойнтом или способ её обучения.

TehVenom/Dolly_GPT-J-6b — объединённая модель на основе GPT-J-6B и LoRA-адаптера Dolly, опубликованная для использования возможностей Dolly без зависимости от PEFT. Она предназначена для генерации текста по инструкциям и диалоговых запросов, в сценариях, похожих на Alpaca, но на базе GPT-J вместо LLaMA. В карточке указано, что LoRA обучена samwit на очищенной версии датасета Alpaca; архитектура — плотная авторегрессионная GPT-J, формат весов — PyTorch, контекст — 2048 токенов. Автор README отмечает, что качество модели хорошее, но уступает Alpaca, связывая это с меньшим объёмом предварительного обучения GPT-J-6B по сравнению с LLaMA 7B. Поддерживаемые языки отдельно не указаны. Лицензия в предоставленных данных не указана.

Dumpling-Qwen2.5-32B — диалоговая языковая модель на архитектуре Qwen2, разработанная nbeerbower как дообучение nbeerbower/Rombos-EVAGutenberg-TIES-Qwen2.5-32B. Модель содержит 32 млрд параметров, распространяется в формате safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации ответов в диалоге и может использоваться для рассуждений, работы с текстами и сценариев с интерфейсом вызова инструментов. Она дообучена методом ORPO в течение двух эпох на наборах данных для предпочтений, правдивости, физического рассуждения и художественных текстов. Поддержка интерфейса инструментов указана в метаданных; это само по себе не гарантирует совместимость с конкретной системой инструментов. Модель выпущена под лицензией Apache-2.0. Карточка не приводит результатов оценки качества, поэтому пригодность для конкретных задач следует проверять отдельно.

Exodia-7B — разговорная языковая модель на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Карточка описывает её как результат слияния нескольких моделей, призванный объединить их сильные стороны и снизить слабые стороны; конкретные исходные модели и разработчик в README не названы. Модель предназначена для генерации текста и диалогового взаимодействия, включая ответы с учётом контекста и работу с разными типами запросов. Доступны веса PyTorch. Лицензия — MIT. README заявляет широкую применимость и повышенное покрытие знаний, но не приводит оценок, тестов или конкретных примеров, подтверждающих эти заявления. Указанные характеристики не подтверждают поддержку изображений, аудио или других нетекстовых входов.

Experiment24Alloyingotneoy-7B — плотная языковая модель семейства Mistral с 7,1 млрд параметров, созданная Maxime Labonne автоматическим слиянием моделей. В конфигурации указаны yam-peleg/Experiment24-7B и nlpguy/AlloyIngotNeoY; применён метод слияния dare_ties, а формат весов — bfloat16. Модель предназначена для генерации текста и работы с контекстом длиной до 32 768 токенов. Лицензия Apache-2.0 разрешает её использование на условиях этой лицензии. Карточка не уточняет специализацию или поддерживаемые естественные языки.

Experiment26Neuralsirkrishna_Experiment27Experiment28 — объединённая методом SLERP модель для генерации текста, созданная на основе двух моделей Mistral: automerger/Experiment26Neuralsirkrishna-7B и automerger/Experiment27Experiment28-7B. Она предназначена для запросов и сценариев, где требуется генерация текста; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

Experiment27Pastiche-7B — автоматически созданная Maxime Labonne объединённая модель для генерации текста. В конфигурации использован метод dare_ties: объединены yam-peleg/Experiment27-7B и дообученная DPO модель CorticalStack/pastiche-crown-clown-7b-dare-dpo. Каталог классифицирует её как плотную авторегрессионную модель семейства Mistral с архитектурой MistralForCausalLM и размером 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов; контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

MaziyarPanahi/Experiment28M7_ShadowYam — объединённая модель на архитектуре Mistral, созданная на основе automerger/Experiment28M7-7B и automerger/ShadowYam-7B. Она предназначена для генерации текста и может использоваться в диалоговых и текстовых приложениях.

Experiment28M7_T3qm7xNeuralsirkrishna — объединённая модель на архитектуре Mistral, созданная из automerger/Experiment28M7-7B и automerger/T3qm7xNeuralsirkrishna-7B. Она предназначена для генерации текста и диалогов. Модель содержит 7,1 млрд параметров, принимает текстовый контекст длиной до 32 768 токенов и распространяется в формате safetensors. В карточке указана лицензия Apache-2.0. Сведения о специальных областях применения и конкретных ограничениях качества не приведены.

Experiment28Yam-7B — автоматически объединённая языковая модель, созданная Maxime Labonne на основе моделей yam-peleg/Experiment28-7B и mayacinka/yam-jom-7B-slerp. В карточке указано объединение методом DARE-TIES; метаданные описывают архитектуру как плотную Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста. Её можно использовать для диалоговых ответов, написания и продолжения текста, а также для прототипирования приложений на базе языковой модели. Репозиторий содержит веса в формате Safetensors и использует лицензию Apache-2.0.

flammen-mistral-7B — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit методом TIES. В качестве базовой использована bardsai/jaskier-7b-dpo-v5.6; в объединение также вошли nbeerbower/bruphin-zeta и Gille/StrangeMerges_16-7B-slerp. Модель содержит 7,1 млрд параметров и имеет контекст до 32 768 токенов. Модель предназначена для генерации текста и ответов на запросы. В карточке приведены результаты Open LLM Leaderboard, включая показатели по задачам рассуждения и продолжения здравого смысла; отдельные сценарии или специализация не заявлены. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0.

Gemma2-9B-IT-Simpo-Infinity-Preference — диалоговая языковая модель на архитектуре Gemma 2, разработанная на основе google/gemma-2-9b-it. Модель дообучена на Infinity-Preference с использованием SimPO; в карточке указаны результаты 73,4% LC win-rate на AlpacaEval 2.0 и 58,1% win-rate на Arena-Hard против GPT-4. Модель предназначена для диалогов, ответов на вопросы и генерации текста по инструкциям. Она содержит 9 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. В метаданных указан английский язык. Для взаимодействия используется тот же шаблон чата, что и у базовой Gemma 2. Связанные код, данные и веса разрешены только для академических исследований и не могут применяться в коммерческих целях. Разработчик не гарантирует точность ответов; их содержание зависит, в частности, от случайных факторов.

Hercules-4.0-Mistral-v0.2-7B — дообученная языковая модель Locutusque на архитектуре Mistral для диалогов и выполнения инструкций в научных и технических областях. Модель содержит 7,1 млрд параметров, работает с текстом и поддерживает контекст до 32 768 токенов. В README заявлены возможности вызова функций, пошагового следования инструкциям и ответов по биологии, химии, физике, математике, медицине и информатике. Модель подходит для специализированных чат-ботов, учебных помощников, технических консультаций и генерации кода с использованием вызова функций. Она дообучена на наборе Hercules-v4.0, который расширяет OpenHermes-2.5 подборкой курируемых данных. Модель выпущена в формате Safetensors и распространяется по лицензии Apache-2.0. Возможны токсичные, ошибочные или вводящие в заблуждение ответы, в том числе в специализированных областях; результаты требуют проверки. Возможность вызова функций сама по себе не гарантирует безопасного исполнения кода.

NLP Cloud разработала instruct-версию GPT-J, дообучив модель на наборе инструкций, подготовленном командой Stanford Alpaca и переработанном под формат GPT-J. Это плотная авторегрессионная языковая модель для генерации текста; версия fp16 предназначена для запуска на GPU уровня NVIDIA Tesla T4 с 16 ГБ видеопамяти. Максимальный контекст — 2048 токенов. Модель принимает инструкции на естественном языке и подходит для ответов на запросы, редактирования текста и других задач генерации; для сложных сценариев можно использовать few-shot примеры. При формировании запроса инструкция должна завершаться переводом строки. В README указано, что качество fp16 не отличается заметно от fp32. Модель распространяется по лицензии GPL-3.0.

J.A.R.V.I.S. Titan V12 MoE Merged Baseline — объединённая самостоятельная модель Dhanesh на архитектуре DeepSeekMoE, сочетающая MoE-бэкбон и адаптированные экспертные слои V12. В метаданных указано 7,1 млрд параметров, архитектурный класс JarvisTitanMoEForCausalLM, формат safetensors и контекст до 32 768 токенов; README при этом указывает бэкбон 14,8 млрд параметров. Модель предназначена для генерации текста в диалоговом режиме. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в файлах репозитория.

K2-Horizon-7B-Uno MLX 6-bit — языковая модель для генерации текста, подготовленная hermitdave на основе IFM/K2-Horizon-7B-Uno от Institute of Foundation Models. Это плотная авторегрессионная модель семейства K2-Horizon с 8 млрд параметров; исходная модель описана как дополненная диффузией, а LoRA-адаптер объединён с базовыми весами. Репозиторий содержит равномерно квантованную до 6 бит версию в формате MLX для запуска на Apple Silicon. Модель предназначена для генерации ответов и рассуждений по текстовым запросам. Заявлено контекстное окно до 524 288 токенов; для запуска автор рекомендует высокий уровень усилия рассуждения. Для работы с K2-Horizon в oMLX требуется версия 0.6.4 или новее с патчем поддержки этой архитектуры. Модель распространяется по лицензии Apache 2.0. Квантование до 6 бит может влиять на качество относительно исходных весов; README также указывает на требование к поддерживаемой версии oMLX при использовании этого способа запуска.

Abiray/K2-Horizon-MoVA-36B-A4B-GGUF — набор GGUF-квантизаций модели IFM/K2-Horizon-MoVA-36B-A4B, разработанной IFM. Это текстовая генеративная модель для диалогов, написания и обработки текста, программирования и других задач, выполняемых через llama.cpp. Модель использует разреженную архитектуру Mixture-of-Experts с механизмом Mixture-of-Values Attention (MoVA): всего 36 млрд параметров, из которых на каждом токене активируется около 4 млрд. Заявленное преимущество — скорость инференса, близкая к моделям меньшего размера, при сохранении возможностей модели масштаба 36B. Указан английский язык; поддержка других языков и дополнительные модальности не заявлены. Репозиторий содержит варианты квантизации от Q3_K_S до Q8_0 размером примерно от 16,4 до 39,8 ГБ. Q4_K_M обозначен как рекомендуемый баланс качества и потребления памяти, а Q8_0 обеспечивает точность, близкую к исходной BF16-модели. Точные характеристики контекстного окна в README не указаны. Для запуска требуется специальная версия llama.cpp из форка MBZUAI-IFM с веткой model/K2Horizon; стандартная upstream-версия на указанном этапе не поддерживает архитектуру k2-horizon. Модель использует ChatML-подобный формат с тегами рассуждений. Лицензия — Apache-2.0. Требования к ресурсам зависят от квантизации: для вариантов Q4_K_M рекомендуется от 24 ГБ VRAM при полной выгрузке на GPU и 32 ГБ системной RAM, тогда как для Q8_0 требуется около 48 ГБ VRAM и RAM. README не содержит независимых результатов бенчмарков или подробного описания ограничений качества.

jaspionjader/Kosmos-EVAA-immersive-sof-v44-8B — плотная авторегрессионная языковая модель семейства Llama, созданная разработчиком jaspionjader путём слияния предварительно обученных моделей jaspionjader/sof-10, jaspionjader/sof-13 и jaspionjader/sof-14 методом Model Stock с помощью mergekit. Модель предназначена для генерации текста и диалогового взаимодействия; репозиторий использует библиотеку Transformers и формат safetensors. Указанный размер — 7,5 млрд параметров, длина контекста — 131 072 токена. Модель принимает текст и генерирует текст. Карточка не сообщает о специализации на конкретных языках или прикладных областях. Лицензия в предоставленных данных не указана.

Kunoichi-DPO-7B — плотная авторегрессионная языковая модель семейства Mistral на 7,1 млрд параметров, созданная SanjiWatsuki. Это DPO-дообучение Kunoichi-7B на парах предпочтений Intel Orca с шаблоном Alpaca; модель предназначена для общего использования и принимает инструкции, выдавая текстовые ответы. В карточке отмечены улучшения следования инструкциям и рассуждений по сравнению с Kunoichi-7B, а также возможное снижение качества ролевых диалогов из-за выравнивания на данных Orca. Заявленное окно контекста — до 8192 токенов. Экспериментально его можно расширить до 16 тысяч токенов с NTK RoPE alpha 2.6. README приводит результаты нескольких бенчмарков и сообщает, что тестирование ещё продолжается, поэтому оценки следует считать предварительными. Репозиторий содержит веса в формате safetensors; лицензия CC BY-NC 4.0 запрещает коммерческое использование без отдельного разрешения правообладателя.

Laser-WestLake-2x7B — языковая модель для генерации текста, созданная macadeliccc путём слияния cognitivecomputations/WestLake-7B-v2-laser и SanjiWatsuki/Kunoichi-DPO-v2-7B. В README указано, что WestLake-7B-v2-laser выступает базовой моделью и одним из экспертов при слиянии. Модель использует архитектуру Mixtral с разреженной экспертной структурой (MoE), содержит около 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов и других задач генерации текста; README указывает формат ChatML и предлагает использовать её так же, как исходную WestLake-7B. В карточке приведены результаты бенчмарков, включая средний балл 74,00 в Open LLM Leaderboard. Поддержка русского или других конкретных естественных языков отдельно не описана. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0.

Ling 3.1 Flash — гибридная reasoning-модель архитектуры mixture-of-experts от inclusionAI, с 25 млрд активных параметров из 560 млрд общих. Она предназначена для генерации текста и задач, требующих рассуждений. Данных о поддерживаемых языках, длине контекста и лицензии в предоставленных источниках нет.

vhab10/Llama-3.1-8B-Base-Instruct-SLERP — языковая модель, созданная с помощью mergekit объединением Meta Llama 3.1 8B Base и Meta Llama 3.1 8B Instruct методом SLERP. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и ответов на инструкции. Репозиторий содержит веса в формате Safetensors; заявленная длина контекста — 131 072 токена. Модель можно использовать для генерации продолжений текста, диалоговых ответов, следования инструкциям и иных текстовых задач общего назначения. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH; они дают ориентир по оценке, но не гарантируют качество в конкретном применении. Лицензия репозитория — MIT. Модель унаследовала основу от моделей Meta Llama 3.1; перед использованием следует учитывать условия лицензии базовых моделей Meta.

DavidAU разработал эту текстовую модель генерации на архитектуре Mixtral с четырьмя экспертами в конфигурации MoE. По README, эксперты основаны на Llama 3.1 DeepHermes 3 8B Preview, Llama 3.1 Hermes 3 8B, Llama 3.1 Dolphin 2.9.4 8B и Llama 3.1 SuperNova Lite; метаданные указывают 7,5 млрд параметров, а карточка описывает её как модель «32B (4×8B)». Модель предназначена для диалогов, рассуждений, решения задач, творческого письма и ролевых сценариев; предусмотрен интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов и требует шаблон Llama 3 Instruct. Для включения рассуждений README рекомендует задавать системный промпт. Карточка советует использовать достаточно длинные инструкции и высокую температуру генерации. Указанные автором улучшения скорости и качества рассуждений не сопровождаются в карточке независимыми результатами оценки. Лицензия — Apache-2.0.

Llama-3-Alpha-Centauri-v0.1 — экспериментальная чат-модель семейства Llama 3, созданная автором серии Centaurus на основе дообучения и слияния моделей. Она предназначена для генерации ответов, рассуждений и анализа, в том числе по темам STEM, компьютерных наук, программирования и социальных наук. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст длиной до 8192 токенов. В карточке указана цель создать менее цензурированную модель; среди упомянутых возможностей — логическая дедукция, критическое мышление и анализ. В метаданных отмечен набор NobodyExistsOnTheInternet/ToxicQAFinal. README сообщает о настройках LoRA и 4-битного обучения, но не уточняет базовый репозиторий, а поля базовой модели в метаданных нет. Автор описывает модель как экспериментальную и предупреждает, что эффективность может меняться. Модель может выдавать токсичные или нежелательные ответы; пользователь отвечает за их интерпретацию и применение. Лицензия — llama3.

MaziyarPanahi/M7T3qm7xp_T3qm7xpStrangemerges_32 — объединённая разработчиком модель Mistral для генерации текста. Она создана слиянием automerger/M7T3qm7xp-7B и automerger/T3qm7xpStrangemerges_32-7B и содержит 7,1 млрд параметров. Модель подходит для генерации текста и диалоговых сценариев на основе текстового ввода. Архитектура — плотная MistralForCausalLM, максимальная длина контекста составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает языковую специализацию или конкретные ограничения качества.

MaziyarPanahi/M7Yamshadowexperiment28_T3qExperiment26 — объединённая модель на архитектуре Mistral для генерации текста. Она создана путём слияния automerger/M7Yamshadowexperiment28-7B и automerger/T3qExperiment26-7B. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Её можно использовать для генерации продолжений, ответов и других текстов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

MaziyarPanahi/MeliodasPercival_01_Strangemerges_32M7 — объединённая автором модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием automerger/MeliodasPercival_01-7B и automerger/Strangemerges_32M7-7B. Модель предназначена для генерации текста и диалогов. Она принимает текст и поддерживает контекст длиной до 32 768 токенов; в репозитории веса представлены в формате safetensors. Данных о специализации на конкретных языках или областях применения в карточке нет. Модель распространяется по лицензии Apache-2.0. Карточка не описывает результаты оценки качества и конкретные ограничения, поэтому пригодность для определённых сценариев следует проверять самостоятельно.

MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp-Mistral-7B-Instruct-v0.1 — чат-модель MaziyarPanahi, полученная слиянием методом SLERP модели Mistral-7B-Instruct-v0.1 и Weyaxi/MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в диалоге. Указанная длина контекста — 32 768 токенов; веса опубликованы в формате safetensors. Модель подходит для диалоговых запросов и генерации ответов на инструкции. В карточке не приведены отдельные оценки качества или сведения о поддерживаемых естественных языках, поэтому их нельзя надёжно уточнить. Лицензия — Apache-2.0.

DevQuasar-9/microsoft.Phi-4-mini-instruct-GGUF — это квантизированная версия модели Phi-4-mini-instruct, разработанной Microsoft. Модель предназначена для генерации текста и использования в сценариях, где требуется работа с инструкциями и текстовыми запросами. В карточке указано, что модель относится к классу text-generation и распространяется в формате GGUF, подходящем для совместимого локального запуска. Сведения о точном размере, варианте квантизации, архитектуре, длине контекста, поддерживаемых языках и дополнительных модальностях не приведены. К сильным сторонам относятся уменьшенные требования к хранению и вычислительным ресурсам по сравнению с полной версией, однако квантизация может влиять на качество ответов. Лицензия и условия использования в README не указаны.