II.1Анализ требований и архитектура ПО

una-cybertron-7b-v2-bf16-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и fblgit/una-cybertron-7b-v2-bf16 методом SLERP. Веса представлены в формате BF16; модель содержит 7,1 млрд параметров и имеет контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста и выполнения инструкций. Её можно использовать в чат-ботах, для ответов на вопросы и создания текстовых черновиков. В карточке не приведены отдельные оценки качества или сведения о специализации модели. Лицензия — Apache-2.0.

Whittle-Qwen-3.8-35B-A3B-i1-GGUF — это квантизированная GGUF-версия модели Whittle-Qwen-3.8-35B-A3B, разработанной logic65 и опубликованной в формате квантизаций пользователем mradermacher. Модель предназначена для генерации текста, диалоговых сценариев, рассуждений, программирования и математических задач, а также для локального запуска через llama.cpp и совместимые инструменты. Модель использует архитектуру mixture-of-experts (MoE) и заявленные механизмы n-gram memory, conditional memory, hyper-connections и knowledge distillation. В обозначении указано 35B параметров, однако README не уточняет число активных параметров при инференсе. Поддерживаются английский, китайский и другие языки; модель работает с текстом и не предназначена для мультимодальных входов. Размер контекста и другие параметры архитектуры не указаны. Доступно множество вариантов квантизации i1-GGUF объёмом примерно от 13,1 до 29,4 ГБ. Они предлагают разные компромиссы между размером, скоростью и качеством; README отмечает i1-Q4_K_M как быстрый рекомендуемый вариант, а i1-Q4_K_S — как удачный баланс размера, скорости и качества. Ограничения включают возможную потерю качества при низкой разрядности и отсутствие подробных результатов оценки. Модель распространяется по лицензии Apache-2.0.

35b-beta-long-GGUF — набор GGUF-квантизаций модели 35b-beta-long, опубликованный и квантованный bartowski на основе оригинальной модели CausalLM/35b-beta-long с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста в локальных средах, включая диалоговые сценарии, следование инструкциям, математические задачи, программирование и работу с текстами на основе обучающих наборов Guanaco, MetaMathQA, WizardLM, ShareGPT, Wikipedia и других. Модель поддерживает текстовую модальность и заявленные языки английский, китайский, японский и немецкий. Размер исходной модели обозначен как 35B, однако размер контекста и точные архитектурные характеристики в README не указаны. Доступны варианты квантизации от IQ1 до Q8_0 с размером файлов примерно от 8,52 до 37,17 ГБ: более качественные варианты требуют больше памяти, а низкобитные экономят ресурсы за счёт снижения качества. Для Q6_K, Q5_K_M, Q5_K_S и ряда Q4-вариантов указано близкое к исходному качество или хороший компромисс между качеством и размером. Для работы требуется совместимое ПО, например llama.cpp, и достаточно оперативной или видеопамяти в зависимости от выбранной квантизации. Модель использует специальный chat prompt format с ролями system, user и assistant. Лицензия указана как GPL-3.0.

airoboros-c34b-2.1 — созданная jondurbin модель Llama 2 с дообучением на синтетических инструкциях airoboros. Это плотная авторегрессионная модель на 33,5 млрд параметров для генерации ответов, диалогов и длинных текстов; заявленная длина контекста — 16 384 токена. В карточке описаны сценарии ответов по предоставленному контексту, программирования, планирования выполнения задач и генерации текста в заданном стиле или от лица персонажа. Модель ориентирована на англоязычные инструкции и поддерживает многоходовые диалоги, ролевые сценарии и продолжение глав. README предупреждает об ошибке форматирования промптов в обучающем коде, из-за которой модель работает некорректно; при генерации она также может продолжить диалог за пользователя, поэтому рекомендуется останавливать генерацию на маркере USER:. Доступны веса PyTorch, лицензия указана как llama2.

airoboros-m-7b-3.1.2-dare-0.85-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием методом SLERP моделей Mistral-7B-Instruct-v0.2 и airoboros-m-7b-3.1.2-dare-0.85. Она построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов на инструкции. Модель принимает текст и генерирует текст; её контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Данные карточки не описывают её качество на конкретных задачах или подробные ограничения, поэтому результаты следует проверять на целевом сценарии.

AxeronAI/axeron-mf-39 — текстовая модель для диалогов и генерации текста, созданная методом SLERP с помощью forgelm. В слияние вошли Qwen/Qwen2.5-7B и Qwen/Qwen2.5-7B-Instruct; архитектура — плотная Qwen2 с классом Qwen2ForCausalLM, размер — 7,1 млрд параметров. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Модель принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Она подходит для диалоговых сценариев и задач генерации текста. README и метаданные не описывают отдельные специализированные области применения или ограничения качества. Сведения о лицензии в предоставленных источниках отсутствуют.

Badger/δ Llama 3 Instruct 32k — чат-модель семейства Llama 3, созданная автором maldv путём рекурсивной интерполяции и объединения нескольких моделей. В репозитории указано, что для неё настроен масштаб RoPE 4; автор сообщает, что ответы сохраняют связность при контексте 16–32 тыс. токенов. Метаданные указывают 7,5 млрд параметров, архитектуру LlamaForCausalLM, формат safetensors и нативный контекст 8192 токена. Модель предназначена для диалоговой генерации текста и инструктивных запросов. В README приведены результаты оценки на Open LLM Leaderboard, включая средний балл 69,49, но этих результатов недостаточно, чтобы судить о качестве во всех задачах. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование; перед применением следует соблюдать её условия.

binarized-ingotrix-slerp-7b — объединённая языковая модель, созданная liminerity методом SLERP с помощью LazyMergekit из eren23/dpo-binarized-NeuralTrix-7B и liminerity/Ingot-7b-slerp-7-forged. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и использует формат SafeTensors; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. В README приведены результаты оценивания на тестах AI2 Reasoning Challenge и HellaSwag. Использование разрешено по лицензии Apache 2.0. Языки, на которых модель специально обучена или проверена, в предоставленных данных не определены.

blendedmist-herm-7B-slerp — объединённая модель для генерации текста и диалогов, созданная автором rakataprime с помощью LazyMergekit. Она объединяет NousResearch/Nous-Hermes-2-Mistral-7B-DPO и NousResearch/Hermes-2-Pro-Mistral-7B методом slerp; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, формат весов — safetensors, точность при объединении — bfloat16. Модель предназначена для диалогового взаимодействия и генерации текста по запросам. Контекстное окно составляет 32 768 токенов. В карточке не перечислены языки и прикладные области. Лицензия в предоставленных данных не указана.

Blur-7b-v1.22 — плотная языковая модель семейства Mistral с 7,1 млрд параметров, созданная объединением трёх моделей с помощью LazyMergekit: s3nh/Sonya-Panda-7B-slerp, argilla/distilabeled-Marcoro14-7B-slerp и Weyaxi/MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp. Она предназначена для генерации текста, диалогов и ответов на математические вопросы. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В README приведены результаты Open LLM Leaderboard: среднее значение 63,35, результат ARC (25-shot) — 62,29, HellaSwag (10-shot) — 82,00. Это ориентиры из оценки, а не гарантия качества для конкретных задач. Модель опубликована 18 января 2024 года и распространяется по лицензии Apache-2.0.

bcoding/deepseek-llvm-sft-merged-8b — дообученная языковая модель семейства Qwen3, разработанная bcoding на базе unsloth/DeepSeek-R1-0528-Qwen3-8B-unsloth-bnb-4bit. Модель имеет плотную архитектуру Qwen3ForCausalLM и содержит 7,6 млрд параметров; поддерживает генерацию текста и диалоговый режим, а заявленная длина контекста составляет 131 072 токена. Модель предназначена для генерации текста в диалоге. В карточке указано, что дообучение выполнялось с Unsloth и библиотекой TRL; подробности обучающего набора и специализация по задачам не приведены. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

mlx-community/DeepSeek-R1-Distill-Llama-70B-4bit — это 4-битная квантованная версия модели DeepSeek-R1-Distill-Llama-70B, разработанной deepseek-ai и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm версии 0.21.1. Модель предназначена для генерации текста и диалоговых сценариев на устройствах и в средах, совместимых с MLX. Для работы используется библиотека mlx-lm; README показывает загрузку модели, применение chat template и генерацию ответа по текстовому запросу. Ключевые характеристики: 70 миллиардов параметров в базовой модели, 4-битное представление весов, текстовая модальность и архитектурная основа Llama, унаследованная от DeepSeek-R1-Distill-Llama-70B. Сведения о поддерживаемых языках, размере контекстного окна, точных возможностях рассуждения, ограничениях, лицензии и требованиях к оборудованию в README не указаны.

DeepSeek-R1-Distill-Qwen-32B-3MPER0RR-abliterated — экспериментально модифицированная версия модели DeepSeek-R1-Distill-Qwen-32B от 3MPER0RR. Это плотная авторегрессионная языковая модель семейства Qwen2 для генерации текста и диалогового взаимодействия. В метаданных указаны 32 млрд параметров и контекст до 131 072 токенов; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации ответов и ведения диалога. Автор сообщает, что модель модифицирована методом «abliteration», протестирована и сохранена; подробности метода, тестирования и измерений качества в карточке не раскрыты. Основа — DeepSeek-R1-Distill-Qwen-32B, дистиллированная модель на базе Qwen2.5, ориентированная на рассуждения, математику и программирование. Лицензия — MIT.

mlx-community/DeepSeek-V3.2_bf16 — преобразованная в формат MLX версия DeepSeek-V3.2 от deepseek-ai, подготовленная сообществом mlx-community. Модель предназначена для генерации текста; её можно запускать с библиотекой mlx-lm на поддерживаемых MLX системах. Архитектура — DeepseekV32ForCausalLM; в метаданных указаны 37,6 млрд параметров и контекст до 163 840 токенов. Репозиторий создан преобразованием исходной модели с помощью mlx-lm 0.28.4. Метаданные указывают лицензию MIT и формат safetensors с FP8. README не описывает специализированные сценарии, языковое покрытие или результаты оценки качества, поэтому модель следует рассматривать как универсальную генеративную языковую модель без подтверждённой отраслевой специализации.

DeepSeek V4 Flash 0731 for one DGX Spark — это квантованная сборка модели DeepSeek-V4-Flash-0731, разработанной командой DeepSeek и упакованная пользователем 0xSero. Модель предназначена для генерации текста и программного кода, структурированного вывода и работы через OpenAI-совместимый API. В README указана архитектура mixture-of-experts; сборка использует REAP pruning, формат EXL3/Trellis и точность около 3,0 bpw. Модель рассчитана на развёртывание на одном NVIDIA DGX Spark с GPU GB10/SM121 и 128 ГБ унифицированной памяти. Заявленный предел контекста составляет 262 144 токена. Для запуска требуется специализированный ARM64-совместимый runtime SparkInfer и опубликованный Docker-образ; стандартные vLLM, ExLlamaV3 и простой запуск с tensor parallelism 1 не поддерживаются для этого rank-sliced артефакта. Поставляемый runtime выполняет преобразование TP4-чекпойнта в TP1 и поддерживает CUDA Graphs и speculative decoding. К сильным сторонам относятся возможность локального запуска крупной MoE-модели на одном DGX Spark, проверенная генерация текста и кода, поддержка строгих JSON-схем и длинного контекста. Ограничения — жёсткая зависимость от конкретного оборудования и закреплённого runtime, значительный объём загрузки и дискового пространства, а также не полностью достигнутый целевой порог стабильной скорости декодирования: в одном из пяти измерений получено 34,30 токена в секунду. Лицензия модели указана как MIT.

Dracarys-Llama-3.1-70B-Instruct-GGUF — это квантованные версии инструкционной языковой модели Dracarys-Llama-3.1-70B-Instruct, разработанной AbacusAI. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций, ответы на запросы и другие задачи, поддерживаемые текстовыми LLM. Варианты подготовлены пользователем bartowski в формате GGUF с использованием llama.cpp и метода imatrix; запуск рекомендуется через LM Studio или совместимое программное обеспечение. Модель основана на архитектуре Llama 3.1 и содержит 70 миллиардов параметров. Доступны уровни квантования от Q8_0 до IQ1_M, что позволяет выбирать между качеством ответов и требованиями к оперативной памяти: наиболее качественными считаются Q6_K, Q5_K_M и ряд вариантов Q4, тогда как версии Q2 и Q3 заметно уступают по качеству, хотя некоторые из них остаются пригодными для использования. Размер файлов составляет примерно от 16,75 до 74,98 ГБ. Мультимодальность, поддерживаемые языки и размер контекстного окна в README не указаны. Основные преимущества — большой размер модели, инструкционная настройка и широкий выбор квантований для локального запуска. Ограничения связаны с высокими требованиями к памяти, особенно для качественных вариантов, а также с потерей качества при сильном квантовании. Для корректной работы следует использовать указанный формат prompt с системным, пользовательским и ассистентским сообщениями. Лицензия указана как llama3; дополнительные условия лицензии в README не приведены.

DreadMix — языковая модель, созданная BoltMonkey с помощью LazyMergekit путём объединения моделей DreadPoor/Eunoia_Vespera-8B-LINEAR и DreadPoor/Promissum_Mane-8B-LINEAR-lorablated. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров и контекстом до 8192 токенов. Репозиторий содержит веса в формате safetensors; в конфигурации слияния указаны метод dare_ties и точность bfloat16. Модель предназначена для генерации текста и диалогового использования. Её можно применять для ответов на вопросы, написания и продолжения текста, а также для следования инструкциям в чате. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH; они дают ориентир по оценке, но не гарантируют качество в конкретных задачах. Язык обучения или преимущественный язык карточкой не установлен. Условия лицензии в предоставленных данных отсутствуют.

ECE_Poirot — языковая модель, созданная студентами инженерной школы ECE Youri LALAIN и Lilian RAGE при участии лаборатории ECE iLab и под руководством специалистов ECE и Exaion. Модель получена слиянием bond005/meno-tiny-0.1 и Qwen/Qwen2.5-1.5B-Instruct методом SLERP с настройкой весов для слоёв self-attention и MLP. Это плотная авторегрессионная модель семейства Qwen2 с 1,5 млрд параметров, предназначенная для генерации текста и диалогов. Она принимает текст и формирует текстовые ответы; метаданные также отмечают интерфейс для вызова инструментов. Контекстное окно — 32 768 токенов. Модель опубликована в формате safetensors и доступна по лицензии Apache-2.0.

Eclipse-13B-dpo — языковая модель Xenon1, созданная дообучением Mistral-7B-v0.1 на датасете UltraFeedback с применением методов из статьи Self-Rewarding Language Models. Она предназначена для генерации текста и выполнения инструкций в диалоговом формате; для запросов используется шаблон с токенами [INST] и [/INST], также доступный через apply_chat_template(). В основе указана архитектура Mistral с Grouped-Query Attention, Sliding-Window Attention и токенизатором Byte-fallback BPE; метаданные классифицируют веса как MixtralForCausalLM с архитектурой MoE и указывают 7,1 млрд параметров. Контекст составляет 32 768 токенов, формат весов — safetensors, основной язык карточки — английский. Модель распространяется по лицензии Apache-2.0.

EVA-Tissint-v1.2-14B — объединение предварительно обученных языковых моделей, созданное автором репозитория с помощью mergekit. В основе объединения лежит EVA-UNIT-01/EVA-Qwen2.5-14B-v0.2; также включена Ttimofeyka/Tissint-14B-v1.2-128k-RP. Использован метод della_linear, итоговая архитектура — плотная Qwen2, размер — 14 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия. Заявленная длина контекста составляет 131 072 токена; для семплирования автор рекомендует настройки из карточки Tissint. В репозитории опубликованы веса в формате safetensors. Модель объединяет два исходных чекпойнта, однако README не приводит сравнительных оценок качества или подробностей о поведении слияния, поэтому пригодность для конкретных сценариев следует оценивать отдельно. Лицензия в предоставленных данных не указана.

Experiment26Neuralsirkrishna_OgnoShadow — объединённая модель Mistral с 7,1 млрд параметров, созданная на основе automerger/Experiment26Neuralsirkrishna-7B и automerger/OgnoShadow-7B. Она предназначена для генерации текста и диалогов, где требуется языковая модель с контекстом до 32 768 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Данных о специализированной предметной области или поддерживаемых языках в карточке нет.

Experiment26Neuralsirkrishna_ShadowExperiment28 — объединённая модель на базе двух моделей automerger, предназначенная для генерации текста и диалогов. Она использует плотную архитектуру Mistral с причинно-языковой моделью MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Модель подходит для генерации продолжений текста и ведения диалогов в сценариях, где нужен длинный контекст. Данные о специализации по предметным областям и языковой поддержке в карточке отсутствуют, поэтому их нельзя уточнить.

MaziyarPanahi/Experiment26Yamshadow_AlloyingotneoyExperiment28 — объединённая Mistral-модель для генерации текста, созданная слиянием automerger/Experiment26Yamshadow-7B и automerger/AlloyingotneoyExperiment28-7B. Она содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Подходит для генерации и продолжения текста в диалоговых и других текстовых сценариях. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

MaziyarPanahi/Experiment28M7_Ognoexperiment27Multi_verse_model — объединённая модель семейства Mistral с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель объединяет automerger/Experiment28M7-7B и automerger/Ognoexperiment27Multi_verse_model-7B. Карточка не описывает специализацию по языкам или предметным областям, поэтому модель можно характеризовать только как текстовую модель общего назначения. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. README не приводит оценок качества или подробных ограничений применения.

Experiment28M7_ShadowNeuralsirkrishna — объединённая текстовая модель семейства Mistral, созданная из automerger/Experiment28M7-7B и automerger/ShadowNeuralsirkrishna-7B. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и принимает контекст длиной до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Данные о конкретных языках и специализированных областях применения не приведены.

Experiment28M7_Strangemerges_32Ogno — объединённая авторами репозитория MaziyarPanahi модель на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и диалогов, а контекст модели составляет до 32 768 токенов. Модель объединяет automerger/Experiment28M7-7B и automerger/Strangemerges_32Ogno-7B. Веса доступны в формате safetensors, лицензия — Apache-2.0. Сведения о специальных предметных областях или дополнительных возможностях не приведены.

FineLlama-3.1-8B_instruct — диалоговая языковая модель, опубликованная phogen и дообученная на unsloth/Meta-Llama-3.1-8B-Instruct с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и ответов в формате диалога по инструкциям. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Контекстное окно — до 131 072 токенов. В карточке указан английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Это диалоговая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная MaziyarPanahi слиянием моделей mistralai/Mistral-7B-Instruct-v0.2 и Darklord23/finetuned-mistral-7b методом SLERP. Она предназначена для генерации текста и ответов на инструкции в формате чата. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Модель может использоваться для диалога, ответов на вопросы и генерации текста по запросу. В карточке указана лицензия Apache-2.0. Сведения о специализированных областях применения и дополнительных ограничениях качества не приводятся.

flammen10-mistral-7B — языковая модель на архитектуре Mistral, созданная FlammenAI слиянием двух моделей методом SLERP с помощью mergekit: nbeerbower/flammen9X-mistral-7B и chihoonlee10/T3Q-Mistral-Orca-Math-DPO. Модель предназначена для генерации текста по запросам и может использоваться в диалоговых сценариях и для ответов на математические вопросы. Модель содержит 7,1 млрд параметров, имеет контекстное окно до 32 768 токенов и распространяется в формате safetensors для библиотеки Transformers. Вторая исходная модель описана как DPO-дообученная на математических данных Mistral, что указывает на математическую составляющую слияния. Репозиторий лицензирован по Apache-2.0.

Elio2151/Gemma-2-9B-Instruct-TechnicalAgentFineTuned-Merged_5 — дообученная чат-модель Elio2151 на архитектуре Gemma 2. В качестве основы использована unsloth/gemma-2-9b-it-bnb-4bit; модель обучали с использованием Unsloth и библиотеки TRL от Hugging Face. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на вопросы, составления текстов и помощи в технических задачах. Она содержит около 9 млрд параметров, принимает текст и генерирует текст, поддерживает английский язык и имеет контекстное окно 8192 токена. В репозитории указаны веса safetensors. Модель распространяется по лицензии Apache 2.0. README не описывает конкретный набор обучающих данных, результаты оценки качества или специальные ограничения применения.