II.1Анализ требований и архитектура ПО

Это GGUF-квантизированная версия языковой модели Qwen3-235B-A22B-Thinking-2507, разработанной Qwen и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и сценариев, требующих рассуждений; запуск возможен через llama.cpp, LM Studio и другие совместимые проекты. Архитектура и точные характеристики исходной модели, включая число активных параметров, контекст, поддерживаемые языки и модальности, в представленном README не описаны. Указано обозначение 235B-A22B, а также наличие множества вариантов квантования от Q8_0 до Q2_K и IQ-квантов. Размер файлов составляет примерно от 83,33 до 249,94 ГБ. Более качественные варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M отмечены как рекомендуемые, тогда как низкобитные варианты экономят память, но снижают качество. Основные преимущества модели — доступность высококачественных квантований и возможность локального запуска на совместимом оборудовании. Ограничения связаны с очень большим размером файлов и зависимостью качества от выбранного типа квантования. Лицензия в README не указана.

Qwenstein 2.5 32B Instruct — объединённая автором maldv языковая модель на архитектуре Qwen2 для диалогов и генерации текста. Она создана методом нормализованной интерполяции денойзированных преобразований Фурье и объединяет Qwentile2.5-32B-Instruct, Sky-T1-32B-Preview, 32B-Qwen2.5-Kunou-v1 и QwQ-32B-Preview-IdeaWhiz-v1 поверх Qwen2.5-32B. Модель содержит 32 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для диалоговых ответов, решения задач рассуждения и работы с математической записью; в карточке отмечены хорошие возможности LaTeX. Автор приводит пример, где модель распознаёт правильность предложенного решения задачи о мерных вёдрах, но сама не находит его сразу, что показывает возможную нестабильность рассуждений. Доступны веса в формате safetensors; README также упоминает варианты GGUF, GGUF-imat и EXL2 4.2 bpw. Лицензия — Apache-2.0.

RandomMergeWEIGHTEDv2-7B-DARETIES — слитая языковая модель на базе архитектуры Mistral, созданная с помощью LazyMergekit из paulml/OGNO-7B, nlpguy/AlloyIngot и mlabonne/Monarch-7B. Веса объединены методом dare_ties с разреженными масками и взвешиванием; модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и общих языковых задач в приложениях на базе Transformers. В репозитории представлены веса Safetensors; конфигурация слияния указывает тип данных bfloat16. В карточке не приведены сведения о специализированных областях применения или поддерживаемых естественных языках. Лицензия в предоставленных данных не указана.

Guilherme34/Reasoner-Llama3.1-70b — чат-модель для генерации текста и ответов в стиле рассуждений. В карточке рекомендуется задавать системный промпт с именем Samantha и просить модель обдумывать ответ перед его выдачей. По метаданным это плотная причинно-следственная модель семейства Llama с архитектурой LlamaForCausalLM и 69,5 млрд параметров; нативный контекст составляет 131 072 токена. Репозиторий содержит веса в формате safetensors и связан с датасетом Guilherme34/Reasoner-dataset-v2. Модель подходит для диалоговых ответов и генерации текста с использованием длинного контекста. Метаданные отмечают интерфейс вызова инструментов, но карточка не описывает его поведение или качество. Сведений о лицензии и поддерживаемых естественных языках в предоставленных данных нет, поэтому условия использования и языковой охват определить нельзя.

Reasoning-Llama-3.1-CoT-RE1 — языковая модель EpistemeAI для генерации текста и диалоговых ответов с рассуждениями. Это плотная авторегрессионная модель семейства Llama на 7,5 млрд параметров, дообученная на базе unsloth/meta-llama-3.1-8b-instruct-bnb-4bit с использованием Unsloth и Hugging Face TRL. В метаданных указан набор Bespoke-Stratos-17k. Модель предназначена для генерации ответов на текстовые запросы и ведения диалога. В карточке указаны английский язык и контекстное окно до 131 072 токенов; доступен формат safetensors. Указанная в метаданных лицензия — Llama 3.1, тогда как README сообщает Apache-2.0; перед использованием следует проверить условия лицензии исходной модели и репозитория.

Это версия Robin 33B v2 от OptimalScale, подготовленная TheBloke в формате PyTorch с точностью FP16. Модель основана на архитектуре Llama и содержит 32,3 млрд параметров; она предназначена для генерации текста в формате диалога с помощником, который отвечает на вопросы подробно и вежливо. Для работы указан шаблон промпта с ролями человека и ассистента. Модель можно использовать для GPU-инференса и дальнейшей конвертации; карточка также упоминает отдельные квантизованные варианты для GPU и CPU. Контекст составляет 2048 токенов. Лицензия обозначена как other, конкретные условия в доступных данных не раскрыты.

RYS-XLarge — языковая модель автора dnhkng, построенная на архитектуре Qwen2. В README описан метод оптимизации, который анализирует функциональные роли слоёв трансформера и дублирует слои модели; автор называет этот подход self-merging. Модель основана на MaziyarPanahi/calme-2.1-qwen2-72b, дообученной от Qwen2-72B. По метаданным, это плотная модель с 76,7 млрд параметров, контекстом 32 768 токенов и весами в формате safetensors; доступен диалоговый режим. Модель предназначена для генерации текста и диалоговых сценариев. В README приведены результаты оценок на нескольких бенчмарках: улучшения от метода различаются по задачам, включая снижение результата на IFEval. Лицензия — MIT. Карточка не описывает языковой охват и не приводит подробных сведений о безопасности или рекомендуемых ограничениях применения.

SamChat — текстовая генеративная модель на архитектуре Mistral, созданная слиянием моделей Intel/neural-chat-7b-v3-3 и cognitivecomputations/samantha-mistral-7b. В README также указан macadeliccc/WestLake-7B-v2-laser-truthy-dpo как базовая модель конфигурации слияния. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. SamChat предназначена для генерации текста и диалогового взаимодействия. Карточка приводит результаты оценок на бенчмарках рассуждений и здравого смысла, включая AI2 Reasoning Challenge и HellaSwag, но не описывает отдельную специализацию. Репозиторий содержит веса в формате Safetensors; лицензия — Apache-2.0.

JetLM/SDAR-1.7B-Chat — диалоговая языковая модель семейства SDAR, разработанная авторами проекта SDAR. Она объединяет авторегрессионное обучение с дискретным диффузионным моделированием: авторегрессионный подход используется при обучении, а диффузионный позволяет генерировать токены параллельно. Модель предназначена для генерации ответов в чате и других задач продолжения текста; в метаданных также отмечен интерфейс вызова инструментов. Модель содержит 1,7 млрд параметров, использует плотную архитектуру SDARForCausalLM и поддерживает контекст до 32 768 токенов. Карточка описывает результаты семейства SDAR как сопоставимые с сильными авторегрессионными моделями общего назначения, а также сообщает о преимуществах в научных задачах для отдельных моделей семейства; эти утверждения не выделяют результаты именно версии 1.7B-Chat. Репозиторий содержит веса safetensors. Лицензия — Apache-2.0. Карточка не приводит сведений о поддерживаемых естественных языках или ограничениях применения.

Seraph-7B-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на основе Mistral-7B-Instruct-v0.2, созданная MaziyarPanahi слиянием весов через метод SLERP с моделью Weyaxi/Seraph-7B. Она предназначена для генерации текста в диалоге и выполнения инструкций. Модель имеет плотную архитектуру MistralForCausalLM, около 7,1 млрд параметров и контекст до 32 768 токенов; принимает текст и выдаёт текст. Слияние сочетает две модели с настройкой коэффициентов для слоёв self-attention и MLP. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Доступные сведения не описывают отдельные тесты качества или специальные предметные области, поэтому результат следует проверять на задачах, где важны точность и надёжность ответов.

sfm_filtered_midtrain_alignment-4k_5k_6k_simpleavg_merge — объединённая языковая модель на архитектуре GPT-NeoX, созданная с помощью mergekit методом Linear. В слияние вошли контрольные точки filtered_midtrain_alignment на шагах 4000, 5000 и 6000; последняя использовалась как базовая. Модель содержит 8,8 млрд параметров и рассчитана на контекст до 16 384 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Она опубликована в формате safetensors и работает через библиотеку Transformers. Данных о специальных прикладных областях или поддерживаемых естественных языках в карточке нет. Условия лицензии в предоставленных сведениях не указаны.

sfmunfilteredmidtrainalignment-3k4k5k6k7kweightedavgmerge — объединённая языковая модель, созданная с помощью mergekit. В ней линейно объединены пять чекпойнтов обучения на шагах 3000, 4000, 5000, 6000 и 7000; базовым для слияния указан чекпойнт шага 7000. Модель предназначена для генерации текста и диалогового взаимодействия. Это плотная авторегрессионная архитектура GPT-NeoX объёмом 8,8 млрд параметров с контекстом до 16 384 токенов; веса опубликованы в формате safetensors для Transformers. Карточка не описывает языки обучения или специализированные области применения, поэтому модель следует считать универсальной. Условия лицензии и конкретные ограничения не приведены.

smartyplats-7b-v2-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и vihangd/smartyplats-7b-v2 методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и сообщения в диалоге. Модель принимает текст и выдаёт текст; её контекст составляет до 32 768 токенов. В карточке указаны формат safetensors и лицензия Apache-2.0. README описывает схему слияния, но не приводит отдельные результаты оценки качества или специализированные области применения.

Smaug-Mixtral-v0.1 — разговорная языковая модель серии Smaug от Abacus.AI, полученная дообучением Mixtral с помощью метода DPO-Positive (DPOP). Она предназначена для генерации ответов в чате и решения широкого круга задач, включая рассуждения и математику. Архитектура — Mixtral MoE; в метаданных указан размер 7,1 млрд параметров и контекст до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache 2.0. В карточке приведены результаты оценок на ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K; средний результат указан как 75,12. README описывает DPOP как подход к обучению на предпочтениях, призванный избегать снижения вероятности предпочтительных ответов и улучшать результаты на разных задачах. Языки обучения или поддерживаемые языки в предоставленных данных не обозначены.

smol_bruin-7b — языковая модель для генерации текста, созданная объединением методом SLERP моделей go-bruins-v2 и smol-7b с помощью MergeKit. В README указана базовая модель mistralai/Mistral-7B-v0.1; в репозитории размещены веса Safetensors общей архитектуры Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель подходит для генерации продолжений текста и ответов на запросы в диалоговом формате. В README приведены результаты оценки на AI2 Reasoning Challenge и HellaSwag, но сведений о специализации на конкретной области или языках нет. Лицензия — CC BY 4.0; при использовании необходимо соблюдать её условия.

jaspionjader/sof-2 — объединённая авторегрессионная языковая модель семейства Llama, созданная автором репозитория с помощью mergekit методом Model Stock. В объединение вошли jaspionjader/sof-1 и jaspionjader/ek-6; базовой моделью указана jaspionjader/Kosmos-EVAA-Franken-stock-v43-8B. Модель содержит 7,5 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие с контекстом до 131 072 токенов. Модель подходит для ведения текстовых диалогов и генерации ответов с учётом длинного контекста. Веса опубликованы в формате safetensors; для работы указана библиотека Transformers. README и метаданные не сообщают о специализированной предметной области или поддерживаемых естественных языках. Лицензия в предоставленных сведениях не указана.

jaspionjader/sof-6 — объединённая языковая модель, созданная разработчиком jaspionjader с помощью mergekit и метода Model Stock. В основу объединения легла jaspionjader/Kosmos-EVAA-Franken-stock-v43-8B; также использованы jaspionjader/sof-5, jaspionjader/sof-3 и jaspionjader/ek-6. Модель семейства Llama с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и предназначена для генерации текста в диалогах. Заявленная длина контекста — до 131 072 токенов; веса доступны в формате safetensors и типе данных bfloat16. README не приводит результатов оценки качества и не описывает конкретные языки или специальные прикладные области. Сведения о лицензии в предоставленных данных отсутствуют.

jaspionjader/sof-7 — объединённая модель семейства Llama, созданная автором репозитория с помощью mergekit и метода Model Stock. В качестве базовой модели использована jaspionjader/Kosmos-EVAA-Franken-stock-v43-8B; также в слияние вошли jaspionjader/ek-6, jaspionjader/sof-5 и jaspionjader/sof-6. Модель содержит 7,5 млрд параметров и предназначена для генерации текста в диалогах. Она принимает текстовые запросы, выдаёт текст и поддерживает контекст до 131 072 токенов. Модель распространяется в формате safetensors; для её загрузки указана библиотека Transformers. Языки и специализированные предметные области в карточке не заявлены. Карточка не описывает отдельные ограничения качества или условия лицензии, поэтому их нельзя надёжно уточнить по доступным сведениям.

jaspionjader/sof-9 — объединённая модель семейства Llama, созданная автором репозитория с помощью mergekit. В объединение вошли jaspionjader/sof-3, sof-5, sof-7 и sof-8; базовой моделью для слияния указана jaspionjader/sof-6. Применён метод Model Stock, итоговые веса сохранены в формате safetensors; модель содержит 7,5 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия на основе текстовых запросов. Она может использоваться в чат-ботах и приложениях, которым нужна генерация ответов с длинным контекстом. Сведения о лицензии, языках, качестве и специальных областях применения в предоставленных источниках отсутствуют.

Stable Beluga 1 Delta — дельта-веса языковой модели Stability AI, полученной дообучением LLaMA 65B на внутреннем наборе данных в стиле Orca. Это авторегрессионная плотная модель семейства LLaMA с 65 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия по промптам в формате, похожем на Alpaca. В карточке указана поддержка английского языка; модель рассчитана на контекст до 2048 токенов и работает с библиотекой HuggingFace Transformers. Репозиторий содержит только дельта-веса: для восстановления полной модели их нужно применить к исходным весам LLaMA 65B. Модель подходит для ответов на вопросы, следования инструкциям и ведения диалога на английском языке. Возможны неточные, предвзятые или нежелательные ответы; перед внедрением рекомендуется проверять безопасность для целевого сценария. Лицензия — CC BY-NC 4.0, некоммерческое использование.

StableLM Zephyr 3B — англоязычная инструкционная языковая модель Stability AI на основе декодерного Transformer. Она содержит 2,7 млрд параметров, принимает текст и генерирует текст; размер контекста — 4096 токенов. Модель дообучена методом SFT и выравнивалась с помощью Direct Preference Optimization (DPO) на открытых и синтетических данных, включая наборы диалогов, математических задач и предпочтений. Базовая модель — stabilityai/stablelm-3b-4e1t. Модель предназначена для диалоговых помощников, ответов на инструкции, генерации текста и прототипирования приложений, которые затем настраивают под конкретную задачу. В README приведены результаты оценок MT-Bench, AlpacaEval и ряда общих тестов; для специализированных сценариев качество следует проверять отдельно. Модель не обучена противостоять состязательным запросам и может выдавать вредные ответы или дезинформацию, поэтому необходимы проверки и защитные механизмы на входе и выходе. Лицензия — Stability AI Community License; для коммерческого использования README предлагает отдельно уточнить условия у Stability AI.

Starling-LM-10.7B-beta — разговорная языковая модель на архитектуре Mistral, созданная как увеличенная по глубине версия Nexusflow/Starling-LM-7B-beta. Она предназначена для диалоговых сценариев и может использоваться как обновлённая замена исходной модели на 7 млрд параметров. Модель содержит около 10,6 млрд параметров, принимает текст и генерирует текст; заявленное контекстное окно составляет 8192 токена. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результаты оценки качества или сведения о поддерживаемых языках. Для работы с уменьшенными версиями автор README ссылается на отдельные сторонние сборки GGUF и ExLlamaV2.

StrangeMerges_17-7B-dare_ties — объединённая языковая модель на архитектуре Mistral, созданная автором Gille с помощью LazyMergekit. В слиянии DARE-TIES использованы модели Gille/StrangeMerges_16-7B-slerp и Gille/StrangeMerges_12-7B-slerp; конфигурация задаёт для них плотность 0,5 и веса 0,4 и 0,6 соответственно, а результирующий тип данных — float16. Модель предназначена для генерации текста и может применяться для диалога, ответов на вопросы и решения задач на рассуждение. Число параметров — 7,1 млрд, контекст — до 32 768 токенов. В README приведены результаты Open LLM Leaderboard, в том числе средняя оценка 69,54, но эти показатели сами по себе не гарантируют качество в конкретном применении. Репозиторий распространяется по лицензии Apache-2.0. Языки, на которых модель работает лучше всего, и её поведение в специализированных областях в предоставленных материалах не описаны.

StrangeMerges_48-7B-dare_ties — текстовая генеративная модель на архитектуре Mistral, созданная Gille объединением трёх моделей с помощью LazyMergekit и метода dare_ties. В конфигурации указаны веса компонентов 0,4, 0,4 и 0,2, а также базовая модель Locutusque/Hercules-4.0-Mistral-v0.2-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового общения. В README приведены результаты Open LLM Leaderboard, включая средний балл 57,89, 60,92 на AI2 Reasoning Challenge и 80,13 на HellaSwag. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Данные не уточняют целевые языки или специальные прикладные области.

StrangeMerges_57-7B-model_stock — слитая модель генерации текста на основе Mistral, созданная с помощью LazyMergekit. В объединение вошли amazingvince/Not-WizardLM-2-7B, automerger/YamshadowExperiment28-7B, Kukedlc/NeuralMaths-Experiment-7b и Kukedlc/NeuralSynthesis-7B-v0.1; метод слияния — model_stock. В конфигурации указана точность bfloat16. Модель предназначена для генерации текста и диалогов; её размер — 7,1 млрд параметров, контекст — до 32 768 токенов. Карточка не описывает специализацию модели, конкретные языки или условия лицензии, поэтому эти сведения нельзя уточнить по доступным данным.

jan-hq/supermario-v2 — языковая модель для генерации текста, созданная Jan с помощью слияния DARE_TIES. В основе лежит Mistral-7B-v0.1; в слиянии также использованы OpenHermes-2.5-neural-chat-v3-3-Slerp, MetaMath-Cybertron-Starling и Marcoroni-7B-v3. Модель содержит 7,1 млрд параметров, использует архитектуру Mistral и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации ответов в формате ChatML, а также может применяться для математических вопросов и задач на рассуждение. В README приведены результаты оценок на бенчмарках ARC и HellaSwag. Запуск поддерживается через Jan Desktop на macOS, Windows и Linux. Модель распространяется по лицензии Apache-2.0.

Synatra-7B-Instruct-v0.2-Mistral-7B-Instruct-v0.1 — чат-модель генерации текста, созданная объединением Mistral-7B-Instruct-v0.1 и maywell/Synatra-7B-Instruct-v0.2 методом SLERP. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров; в метаданных указан контекст до 32 768 токенов. Она принимает текстовые инструкции и сообщения диалога и генерирует текстовые ответы. Модель подходит для диалоговых ассистентов, ответов на инструкции и генерации текста. Карточка не приводит сравнительных оценок качества или подробных результатов тестирования. Модель распространяется по лицензии Apache-2.0.

Synthia-MoE-v3-Mixtral-8x7B — языковая модель для генерации текста, созданная на базе Mixtral-8x7B и дообученная разработчиком migtissera на наборе Synthia-v3.0 примерно из 10 тысяч примеров, сгенерированных GPT-4-Turbo. В архитектуре Mixtral используется разреженная смесь экспертов; модель представлена в формате PyTorch и имеет 7,1 млрд параметров по метаданным. Модель предназначена для диалогов и генерации связных ответов на многочастные вопросы. Обучающие примеры включали Chain-of-Thought, Tree-of-Thought, философские рассуждения и контексты с рабочей памятью. Контекст модели — до 32 768 токенов. README предупреждает о вероятном переобучении из-за высокой скорости обучения; автор планировал исправить это в следующем выпуске. Лицензия — Apache-2.0.

T5Gemma — семейство компактных текстовых моделей Google с архитектурой encoder-decoder. Этот вариант — предварительно обученная модель с энкодером на 2 млрд и декодером на 2 млрд параметров, адаптированная с помощью PrefixLM; веса опубликованы в формате safetensors, библиотека для работы — Transformers. Модель принимает текст и генерирует текст на английском языке. Модель предназначена для генерации и преобразования текста, в частности для ответов на вопросы, суммаризации и рассуждений. Её можно использовать для подготовки черновиков, создания текстов и экспериментов в NLP; энкодер также пригоден для задач классификации и понимания текста. Компактный размер облегчает запуск на персональных компьютерах и собственной облачной инфраструктуре. К ограничениям относятся возможные ошибки в фактах, предвзятость обучающих данных и трудности с неоднозначностью, тонкими языковыми нюансами и сложными открытыми задачами. Модель лицензирована по условиям Gemma License; перед применением следует учитывать ограничения Gemma Prohibited Use Policy.

Ternary-Bonsai-27B-antidoom-DSpark — текстовая генеративная модель, разработанная на основе prism-ml/Ternary-Bonsai-27B и доработанная Danny-Dasilva с применением antidoom и DSpark. Она предназначена для локальной генерации текста, включая программный код, с запуском через специализированный форк llama.cpp и CUDA-ядра для гибридного внимания. Модель ориентирована на сценарии, где важны компактность, высокая скорость вывода и устойчивость к зацикливанию на повторяющихся фрагментах. В основе лежит гибридная attention-архитектура Qwen3.5-27B с тернарной 2-битной квантизацией Q2_0, плотностью около 2,125 бит на вес и контекстом до 16 384 токенов в приведённой конфигурации. Указан английский язык. В комплект входят основная модель размером около 7 ГБ, DSpark-драфтер в формате Q4_1 для speculative decoding и vision projector Q8_0, что указывает на поддержку мультимодального сценария через проектор, хотя подробности о визуальных возможностях не приведены. К сильным сторонам относятся малый размер, высокая скорость на RTX 5090 и ускорение speculative decoding: в описанном тесте скорость выросла с 129,2 до 184,6 токена в секунду. Antidoom-настройка снижает склонность к продолжению уже начавшихся повторов, однако её эффект частично ослабляется агрессивной 2-битной квантизацией. Скорость DSpark зависит от характера запроса и может снижаться на задачах с низкой долей принятых черновых токенов; для работы требуется совместимый форк llama.cpp и подходящее CUDA-оборудование. Модель распространяется по лицензии Apache-2.0.