II.1Анализ требований и архитектура ПО

PocketWeights Llama 3.1 8B Instruct abliterated GGUF — это квантизированная версия модели Meta-Llama-3.1-8B-Instruct-abliterated, разработанной huihui-ai на базе архитектуры Meta Llama 3.1. Модель распространяется в форматах GGUF с вариантами квантизации IQ3_M, Q4_K_M и Q6_K, что позволяет запускать её локально на потребительском оборудовании, включая видеокарты с 4–8 ГБ VRAM и компьютеры Apple Silicon. Модель предназначена для генерации текста, диалогов, ролевых сценариев, творческого письма, работы с кодом, анализа репозиториев, создания синтетических данных и исследовательских задач. Заявлена поддержка контекста до 128K токенов, благодаря чему она подходит для обработки длинных документов и многоходовых диалогов. Основной язык и полный набор поддерживаемых языков в README не указаны. К сильным сторонам относятся компактность, возможность автономного запуска, несколько уровней компромисса между качеством и требованиями к памяти, а также отсутствие стандартных отказов и ограничений, характерных для выровненных моделей. Это одновременно является существенным ограничением: модель лишена защитных механизмов, поэтому требует осторожного применения, особенно при работе с потенциально опасными запросами. Качество зависит от выбранного уровня квантизации. Модель распространяется по Meta Llama 3.1 Community License.

RLHFlow/LLaMA3-iterative-DPO-final — неофициальная диалоговая модель семейства LLaMA 3, разработанная авторами исследования «RLHF Workflow: From Reward Modeling to Online RLHF» (TMLR, 2024). Это плотная авторегрессионная модель на 7,5 млрд параметров с контекстом 8192 токена, представленная в формате safetensors и предназначенная для генерации текста в режиме чата. Модель обучена для следования инструкциям с помощью итеративного онлайн RLHF на основе DPO. Она подходит для диалоговых ответов, общих вопросов, рассуждений и задач по программированию; авторы приводят результаты на Alpaca-Eval-V2, MT-Bench, Chat-Arena-Hard и академических тестах. В README указано, что чекпойнт предназначен для демонстрации метода и исследовательского использования. README предупреждает, что модель может выдавать оскорбительный или неэтичный контент, особенно при состязательных запросах. Указанная лицензия — llama3; README также отмечает нерешённые лицензионные вопросы при выпуске модели, поэтому условия распространения и использования следует сверять с применимыми условиями LLaMA 3.

MeliodasPercival_01_Experiment26Neuralsirkrishna — объединённая языковая модель на архитектуре Mistral, созданная путём слияния automerger/MeliodasPercival_01-7B и automerger/Experiment26Neuralsirkrishna-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов с контекстом до 32 768 токенов. Модель подходит для создания ответов и продолжения текста в приложениях на базе языковых моделей. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

MeliodasPercival_01_ShadowT3q — объединённая модель на архитектуре Mistral с 7,1 млрд параметров, созданная путём слияния моделей automerger/MeliodasPercival_01-7B и automerger/ShadowT3q-7B. Она предназначена для генерации текста и диалогов, в том числе с использованием контекста длиной до 32 768 токенов. Модель принимает текст и выдаёт текст. Веса опубликованы в формате Safetensors. Репозиторий распространяется по лицензии Apache-2.0. В карточке не описаны специальные предметные области или отдельные ограничения качества.

MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.2 и Weyaxi/MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp. Она построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров; модель предназначена для генерации текста и ответов на инструкции в диалоговом формате. Контекстное окно составляет до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и других сценариев генерации текста. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. В предоставленных материалах не описаны языковое покрытие и специальные ограничения качества или безопасности.

Phi-4-reasoning-plus-GGUF — это набор квантизированных версий языковой модели Phi-4-reasoning-plus, разработанной Microsoft и преобразованной в формат GGUF автором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалогового взаимодействия, решения математических задач, программирования и задач, требующих рассуждений. В README указана поддержка английского языка и рекомендована температура генерации 0. Доступны варианты от исходных весов BF16 размером 29,32 ГБ до квантизаций Q8_0, Q6_K, Q5_K, Q4_K и других объёмом примерно от 8,4 до 15,6 ГБ. Разные варианты позволяют выбирать баланс между качеством, размером и требованиями к ресурсам; наиболее качественными и рекомендуемыми названы Q6_K_L, Q6_K, Q5_K и Q4_K_M. Модель рассчитана на локальный запуск через LM Studio, llama.cpp и совместимые проекты. Архитектура, число параметров, размер контекста и мультимодальные возможности в README не указаны; заявлена только текстовая генерация. Лицензия — MIT. Ограничения связаны с использованием квантизированных весов: качество и требования к памяти зависят от выбранного варианта, а некоторые форматы обозначены как устаревшие. Для корректной работы требуется соблюдать рекомендованный шаблон промпта Phi и использовать совместимое программное обеспечение.

MiMo-V2.6-Distill-Qwen-9B-OptiQ-4bit — квантованная MLX-версия модели XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B, разработанная сообществом mlx-community. Базовая модель представляет собой дистилляцию архитектуры Qwen3.5 9B и предназначена для генерации текста, рассуждений, программирования, агентных сценариев и работы с инструментами. Модель рассчитана на локальный запуск на устройствах с Apple Silicon через MLX, без PyTorch и облачных сервисов. Используется смешанная точность: большинство слоёв имеют 4-битное представление, а чувствительные слои — 8-битное. Всего 134 слоя хранятся в 8-битном формате и 116 — в 4-битном; средняя разрядность веса составляет 6,34 бита, размер модели на диске — около 6,77 ГБ вместо примерно 18 ГБ в формате bfloat16. Архитектура включает 32 слоя, 8 слоёв с полной attention и 24 слоя с linear attention, 16 голов, 4 KV-головы, head_dim 256, hidden size 4096 и словарь из 248 320 токенов. Языки и размер контекстного окна в README не указаны. К сильным сторонам относятся существенное уменьшение размера и заявленное ускорение генерации в 2,4–7 раз относительно родительской модели bfloat16 при проверке на нескольких типах запросов. Распределение разрядности перенесено из квантования Qwen3.5-9B и не измерялось непосредственно на этой модели, поэтому опубликованные оценки качества для Qwen3.5-9B к ней не относятся; Capability Score для данной модели не рассчитывался. Модель распространяется по лицензии MIT.

MindLink-32B-0801 — диалоговая языковая модель, разработанная Kunlun Inc. на основе Qwen3-32B и дообученная с применением методов постобучения. Она предназначена для генерации ответов в чате, рассуждений и решения общих текстовых задач. В карточке заявлены плановое и адаптивное рассуждение: модель подбирает глубину ответа в зависимости от сложности запроса. Модель имеет плотную архитектуру Qwen3ForCausalLM и 29,7 млрд параметров. Метаданные указывают контекст 40 960 токенов, тогда как README сообщает о контексте 128K для семейства MindLink; фактическую длину для этой версии стоит уточнить перед использованием. Карточка указывает английский язык, а базовая Qwen3-32B описана как многоязычная. Доступны веса в формате safetensors, также описан совместимый с OpenAI Chat Completions API интерфейс. Лицензия — Apache 2.0. Для производных работ README требует сохранять уведомления об авторских правах Qwen и документировать изменения. В README также отмечена возможность непоследовательных ответов при инференсе и дана рекомендация очищать историю диалога перед повторной попыткой.

Mistral-7B-claude-instruct-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.2 и Norquinal/Mistral-7B-claude-instruct методом SLERP. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и ответы на инструкции в формате чата; заявленная длина контекста — до 32 768 токенов. Модель подходит для диалоговых приложений, ответов на вопросы и генерации текста по запросу. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0.

eganwo/mistral7b-distilled-from-deepseek-r1-qwen32b — языковая модель, созданная дообучением Mistral-7B-Instruct-v0.3. Репозиторий содержит веса в формате Safetensors; модель насчитывает 7,1 млрд параметров и использует архитектуру Mistral с плотной декодерной сетью. Контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Карточка называет её дистиллированной из DeepSeek-R1-Qwen32B, но не сообщает подробностей о данных обучения, методе дистилляции или результатах оценки. Лицензия — Apache-2.0.

MaziyarPanahi/Mistral-7B-v0.1-sharded-Mistral-7B-Instruct-v0.1 — объединённая модель на архитектуре Mistral, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.1 и alexsherstinsky/Mistral-7B-v0.1-sharded. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и ответов на инструкции и диалоговые запросы. Поддерживает контекст до 32 768 токенов и поставляется в формате safetensors; в метаданных также указана поддержка чата. Модель принимает текстовые запросы и выдаёт текст. Она подходит для диалоговых помощников, ответов на инструкции и генерации текста. Лицензия — Apache-2.0. Данных о специальных предметных областях или ограничениях качества в предоставленной карточке нет.

Это объединённая диалоговая модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и OpenPipe/mistral-ft-optimized-1227 методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и ответов на инструкции в диалоговом формате; контекст составляет до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и других текстовых задач общего назначения. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

MistralInstructLongish-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и MistralInstructLongish методом SLERP. Она предназначена для генерации ответов на инструкции и диалоговые запросы; размер составляет 7,1 млрд параметров, контекст — до 32 768 токенов. Модель принимает текст и выдаёт текст. Указана лицензия Apache-2.0. Карточка не сообщает о языковом охвате и конкретных специализированных областях применения.

munin-neuralbeagle-7b-density-very-high — объединённая текстовая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана с помощью LazyMergekit методом dare_ties на основе munin-7b-alpha и mlabonne/NeuralBeagle14-7B; конфигурация задаёт для NeuralBeagle плотность 0,9 и вес 0,6, а итоговый тип данных — bfloat16. Модель предназначена для генерации текста, в том числе диалогов, ответов на инструкции, рассуждений и творческих текстов — эти возможности указаны в описании базовой NeuralBeagle14-7B. Контекст составляет до 32 768 токенов. В репозитории опубликованы веса в формате safetensors. Карточка не указывает лицензию. Качество и ограничения итогового слияния отдельно не описаны; возможности и поведение базовых моделей могут отличаться от поведения объединённой модели.

JANGQ-AI публикует Nemotron-Cascade-2-30B-A3B-JANG_2L — квантованный вариант NVIDIA Nemotron-Cascade-2-30B-A3B, подготовленный проектом JANG для запуска через MLX на Apple Silicon. Это языковая модель для диалогов, пошаговых рассуждений и задач с вызовом инструментов. В основе — гибридная архитектура Nemotron-H: Mamba-2, MoE и слои внимания; README указывает 52 слоя, включая 6 слоёв внимания. Метаданные сообщают о 1,9 млрд параметров и контексте до 262 144 токенов. README заявляет размер файлов 10,3 ГБ, скорость генерации до 130 токенов в секунду и результат 88% на тесте MMLU из 200 вопросов в режиме рассуждений. Модель ориентирована на Mac с Apple Silicon и унифицированной памятью от 16 ГБ; для загрузки автор рекомендует MLX Studio или пакет JANG для MLX. Эти показатели приведены в карточке модели и зависят от оборудования и методики измерения. Лицензия указана как other, поэтому условия использования следует уточнить в репозитории. README называет представление JANG квантованием 2,3 бита с 8-битным вниманием, хотя метаданные перечисляют формат safetensors.

NeoHorse-1-4B-GGUF — набор общественных GGUF-квантизаций модели NeoHorse-1-4B, опубликованный пользователем ngquocvinh на основе модели TokenRhythm/NeoHorse-1-4B. Это текстовая авторегрессионная языковая модель примерно на 4 млрд параметров, дообученная из Qwen3.5-4B для агентских сценариев, использования инструментов, программирования, следования инструкциям и диалогового общения. Модель работает через llama.cpp и поддерживает форматы квантизации GGUF; варианты представлены с разным балансом между размером файлов и точностью сохранения поведения исходной BF16-модели. Модель предназначена для генерации текста, рассуждений, ответов на инструкции, кодирования и текстового tool use. Заявлена нативная длина контекста 262 144 токена, однако практически доступный контекст зависит от используемого runtime, объёма памяти, настроек KV-cache и рабочей нагрузки. Поддерживаются текстовые сценарии; vision-веса отсутствуют. Проверка поведения охватывала английский, вьетнамский и китайский языки, а также код, JSON и текстовый формат вызовов инструментов. Варианты Q8_0 и Q6_K лучше сохраняют исходное поведение, Q5_K_M является сбалансированным выбором, а Q4_K_M — более компактным практическим вариантом. К преимуществам относятся локальный запуск через llama.cpp, большой заявленный контекст, несколько вариантов размера и подтверждённая загрузка всех опубликованных квантизаций на NVIDIA A10M. Ограничения связаны с потерей качества в низкобитных вариантах: Q3 и более низкие версии отмечены как экспериментальные, а тест строгого вывода по JSON Schema завершился ошибкой инициализации runtime-сэмплера. Проверка tool use оценивала только формат сериализации, а не полноценное выполнение инструментов. Указана лицензия Apache-2.0; в данном репозитории изменён только формат хранения посредством квантизации, без дополнительного обучения.

neural-chat-7b-v3-2-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная MaziyarPanahi объединением Mistral-7B-Instruct-v0.2 и Intel/neural-chat-7b-v3-2 методом SLERP. Это плотная архитектура Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в формате чата. Модель принимает текст и выдаёт текст; её контекстное окно составляет до 32 768 токенов. Модель подходит для диалоговых ассистентов, ответов на вопросы, следования текстовым инструкциям и генерации текста общего назначения. В метаданных указана лицензия Apache-2.0. Данных о специальных ограничениях качества или целевых областях применения в предоставленной карточке нет.

NeuralHermes 2.5 - Mistral 7B — это диалоговая модель для генерации текста и следования инструкциям, разработанная Mlabonne на основе teknium/OpenHermes-2.5-Mistral-7B. Модель дополнительно обучена методом Direct Preference Optimization (DPO) на наборе диалогов mlabonne/chatml_dpo_pairs с шаблоном ChatML; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель подходит для диалоговых приложений, ответов на инструкции, генерации текста и помощи с кодом. В README сообщается об улучшении результатов на нескольких бенчмарках относительно исходной модели, однако приведённые данные не гарантируют качество для конкретных задач. Доступна лицензия Apache-2.0; запуск возможен через LM Studio и другие интерфейсы.

NeuralMiLLaMa-8B-slerp — объединённая инструктивная языковая модель семейства Llama 3, созданная Kukedlc с помощью LazyMergekit. В состав слияния входят NousResearch/Meta-Llama-3-8B-Instruct, elinas/Llama-3-8B-Ultra-Instruct, mlabonne/ChimeraLlama-3-8B-v3, nvidia/Llama3-ChatQA-1.5-8B и Kukedlc/SmartLlama-3-8B-MS-v0.1. Модель с плотной архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и генерирует текст; длина контекста — 8192 токена. Она предназначена для диалогов, ответов на вопросы и генерации текста, включая код. Метаданные указывают на англоязычную базовую модель, поэтому поддержку других языков нельзя уверенно утверждать. Модель опубликована в формате safetensors. В метаданных указана лицензия other; конкретные условия использования следует сверять с карточкой модели и лицензиями исходных моделей.

Это GGUF-квантизированная версия языковой модели Nemotron-H-8B-Reasoning-128K, разработанной NVIDIA. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в локальных средах, поддерживающих llama.cpp, включая LM Studio и другие совместимые проекты. Модель относится к классу reasoning-моделей, имеет около 8 миллиардов параметров и заявленный контекст до 128K токенов. Доступны варианты от полного BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Более высокие варианты, включая Q6_K_L и Q6_K, обеспечивают качество, близкое к исходному, а Q4-варианты предлагают более компактный запуск. Сильными сторонами являются большой контекст, возможность локального использования и широкий выбор квантизаций для разного оборудования. Ограничения связаны с потерями качества при более агрессивной квантизации; точный формат промптов, поддерживаемые языки, архитектурные детали и официальная лицензия в представленном README не указаны.

Карточка модели mayflowergmbh/occiglot-7b-eu5-instruct-hf на Hugging Face совпадает с карточкой occiglot/occiglot-7b-eu5-instruct, поэтому описание составлено по ней. Occiglot-7B-EU5-Instruct — инструктивная языковая модель, разработанная Occiglot Research Collective. Это плотный авторегрессионный трансформер с архитектурой Mistral и 7,1 млрд параметров, дообученный на 400 млн токенов многоязычных и программных инструкций. Модель принимает текстовые запросы в формате ChatML и генерирует текст; заявленная длина контекста — 32 768 токенов. Модель предназначена для диалогов, ответов на вопросы, выполнения инструкций и задач с кодом на английском, испанском, французском, немецком и итальянском языках. Карточка приводит предварительные результаты тестирования и отмечает, что часть неанглоязычных оценок основана на машинном переводе, поэтому их следует интерпретировать осторожно. Модель не проходила выравнивание по безопасности и может создавать проблемный контент. Распространяется по лицензии Apache 2.0.

OLMo-2-1124-7B-SFT Preview — плотная авторегрессионная языковая модель семейства OLMo 2, разработанная Allen Institute for AI (AI2). Это версия с supervised fine-tuning базовой OLMo 2 7B November 2024 на адаптации набора Tülu 3; обучающая смесь включает публичные, синтетические и созданные людьми данные. Модель содержит 6,9 млрд параметров, работает с текстом и поддерживает контекст до 4096 токенов. Модель предназначена для генерации текста и диалогов, а также для широкого круга инструктивных задач. Карточка отмечает обучение на задачах, связанных с математикой, включая MATH и GSM8K, и следованием инструкциям, включая IFEval. Основной язык — английский. Для запуска предусмотрена библиотека Transformers, формат весов — PyTorch. Модель прошла ограниченное обучение безопасности и может выдавать проблемный контент, особенно в ответ на соответствующие запросы; автоматическая фильтрация ответов не включена. Лицензия — Apache 2.0.

Olmo 3 7B Instruct — авторегрессионная Transformer-модель Allen Institute for AI (Ai2) для диалогов и выполнения инструкций. Модель содержит 6,9 млрд параметров, рассчитана на английский язык и принимает текст, выдавая текст. Контекстное окно — до 65 536 токенов; модель работает через Transformers и распространяется в формате safetensors. Модель создана на основе allenai/Olmo-3-7B-Instruct-DPO и дополнительно обучена на наборе Dolci-Instruct-RL-7B. Она подходит для ответов на вопросы, общего диалога, задач по математике и программированию. Лицензия Apache 2.0; Ai2 указывает исследовательское и образовательное применение согласно своим рекомендациям ответственного использования. Ответы могут содержать фактические ошибки и предвзятость; без дополнительной фильтрации модель может генерировать вредоносный или чувствительный контент. Результаты следует проверять, а при внедрении учитывать необходимость мер безопасности.

MaziyarPanahi выпустил эту диалоговую модель как слияние Mistral-7B-Instruct-v0.2 и OpenHermes-2.5-neural-chat-7b-v3-1-7B методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, рассчитанная на диалог и генерацию текста по инструкциям; заявленная длина контекста — до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и создания текстов по запросу. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка не сообщает о специализированной предметной области или ограничениях качества.

Open-Instruct GPT-4 Alpaca 7B — языковая модель семейства LLaMA, разработанная исследователями AllenAI и дообученная на наборе инструкций GPT-4 Alpaca в рамках исследования по настройке открытых моделей на инструкции. Это плотная авторегрессионная модель примерно на 6,6 млрд параметров для генерации текста и выполнения пользовательских инструкций на английском языке; для качественной генерации рекомендуется использовать обученный формат запросов. Контекст составляет 2048 токенов. Модель подходит для диалоговых ответов, следования инструкциям, решения задач, вопросов и генерации кода. В карточке приведены результаты тестирования на MMLU, GSM, BBH, TydiQA, Codex-Eval и AlpacaFarm. Репозиторий содержит diff весов, поэтому для использования требуется доступ к исходной модели LLaMA в формате Hugging Face. Указана лицензия AI model license вместе с исходной лицензией LLaMA; условия следует проверять в соответствующих файлах лицензии.

pandafish-2-7b-32k — объединённая модель на архитектуре Mistral, созданная ichigoberry с помощью LazyMergekit из Mistral-7B-Instruct-v0.2 и dolphin-2.8-mistral-7b-v02. Она предназначена для генерации текста и диалоговых ответов по инструкциям; в карточке указан шаблон Mistral Instruct. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. README приводит результаты сравнительных оценок AGIEval, GPT4All, TruthfulQA и Bigbench, но не описывает конкретные гарантии качества для отдельных задач. Опубликована в формате safetensors и распространяется по лицензии Apache-2.0.

bunnycore/Phi-4-Model-Stock-v3 — объединённая языковая модель, созданная разработчиком с помощью mergekit и метода Model Stock. В объединение вошли Pinkstack/SuperThoughts-CoT-14B-16k-o1-QwQ, bunnycore/Phi-4-rp-v1-lora и bunnycore/Phi-4-Model-Stock-v2; базой в README названа SuperThoughts-CoT-14B-16k-o1-QwQ. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 14,1 млрд параметров. Модель предназначена для генерации текста и диалогов в формате system/user/assistant. Контекст составляет до 16 384 токенов; файлы представлены в формате safetensors и рассчитаны на работу с Transformers. В README приведены результаты оценивания на Open LLM Leaderboard, включая IFEval и BBH. Лицензия в доступных данных не указана. Оценки из README не гарантируют качество в конкретных задачах; перед применением стоит проверить ответы и совместимость объединённых компонентов.

ChaoticNeutrals/Prima-LelantaclesV5-7b — слитая методом DARE TIES текстовая модель на архитектуре Mistral, опубликованная ChaoticNeutrals. В объединение вошли Test157t/Pasta-Lake-7b и Test157t/Prima-LelantaclesV4-7b-16k; README указывает, что обе модели использованы с весом 1. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и рассчитана на генерацию текста с контекстом до 32 768 токенов по метаданным.

shamwowzer/prototype-128x02 — объединённая языковая модель, созданная с помощью mergekit. В README указано, что в слиянии Multi-SLERP участвовали /workspace/modeler/Behemoth и /workspace/mistral-text-only с весами 0,5; базовой моделью при сборке выбрана /workspace/modeler/Behemoth. Метаданные относят архитектуру к семейству Mistral и классу MistralForCausalLM; модель содержит 123,4 млрд параметров и принимает контекст до 262 144 токенов. Модель предназначена для генерации текста и диалогового общения. Репозиторий содержит веса safetensors; для работы используется библиотека Transformers. Лицензия в предоставленных данных не указана.

Qwen2.5-7B-Instruct-1M-GGUF — GGUF-квантизированная версия инструкционной языковой модели Qwen2.5-7B-Instruct-1M, разработанной командой Qwen. Квантизацию выполнил bartowski на базе llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с инструкциями, а также для задач, требующих обработки очень больших текстовых контекстов. Модель имеет около 7 миллиардов параметров и поддерживает контекст длиной до 1 миллиона токенов. Она сохраняет возможности работы с короткими запросами и оптимизирована для задач с длинным контекстом. В README указан английский язык; сведения о других языках и дополнительных модальностях отсутствуют. Для последовательностей длиннее 262 144 токенов возможно снижение точности до появления улучшенной поддержки. Модель распространяется по лицензии Apache-2.0. Формат GGUF и совместимость с llama.cpp ориентированы на локальный запуск в инструментах, поддерживающих этот формат, включая LM Studio. README не содержит подробностей о конкретных вариантах квантования, требованиях к аппаратным ресурсам и результатах бенчмарков.