II.1Анализ требований и архитектура ПО

ThinkingCap-Qwen3.6-27B-GGUF — набор GGUF-квантизаций мультимодальной vision-language модели ThinkingCap-Qwen3.6-27B, разработанной BottleCap AI на основе Qwen3.6-27B от Qwen Team. Модель предназначена для локального запуска через llama.cpp и совместимые среды, включая Ollama и LM Studio, и поддерживает работу с текстом и изображениями. Дообучение направлено на сокращение рассуждений примерно на 50% в среднем при сохранении качества и стиля ответов базовой модели. Доступны варианты f16, Q8_0, Q6_K и Q4_K_M размером примерно от 15,7 до 50,9 ГБ; Q4_K_M рекомендуется как баланс размера и качества, а Q8_0 и Q6_K — как варианты, близкие к исходной точности. Для обработки изображений требуется отдельный мультимодальный проектор mmproj размером около 0,9 ГБ. Поддерживается MTP self-speculative decoding, способный дополнительно повысить скорость генерации при использовании современной версии llama.cpp. По приведённым оценкам, точность квантованных вариантов статистически сопоставима с f16 и базовой моделью: около 0,89–0,91 на MMLU-Pro и 0,78–0,82 на RealWorldQA. Сильными сторонами являются существенно более короткие рассуждения, ускорение выполнения задач, локальный запуск и почти без потерь качества при квантовании. Ограничения включают значительные требования к дисковому пространству и памяти, необходимость совместимого runtime, а для изображений — отдельного vision-проектора. Лицензия в README не указана; доступ к модели может предоставляться по запросу.

M4-ai разработала TinyMistral-6x248M-Instruct — компактную языковую модель с архитектурой Mixture of Experts, дообученную на базе M4-ai/TinyMistral-6x248M для выполнения инструкций. В метаданных указано 215,2 млн параметров и контекст до 32 768 токенов; веса опубликованы в формате safetensors. Модель принимает текстовые запросы и генерирует ответы, объяснения и аналитические тексты. Она рассчитана на широкий круг тем, включая программирование, историю и естественные науки; для диалога можно использовать формат ChatML. Дообучение выполнено на hercules-v1.0, наборе с примерами по коду, математике и другим дисциплинам. В карточке заявлена поддержка английского языка и многоязычной генерации. Модель распространяется по лицензии Apache-2.0. Возможны предвзятые, токсичные или чувствительные ответы; карточка также предупреждает об ухудшении качества при использовании Inference API и рекомендует параметры инференса базовой модели.

TopEvolutionWiz — языковая модель для генерации текста, созданная сообществом mergekit-community путём слияния моделей методом SLERP. В слияние вошли mergekit-community/TopEvolution и lucyknada/microsoft_WizardLM-2-7B; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров. Модель доступна в формате Safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации ответов и диалогового взаимодействия. Конфигурация слияния задаёт V-образное распределение весов: вклад Hermes используется на входе и выходе, а WizardMath — в средних слоях. Лицензия в предоставленных данных не указана.

KnutJaegersberg/Tri-21B-Think-gguf — GGUF-версия модели Tri-21B-Think-Preview, подготовленная на основе Tri-21B. Это причинная языковая модель с декодерным Transformer, RoPE, SwiGLU, RMSNorm и GQA, содержащая 20,73 млрд параметров. Она дообучена для диалогов, пошаговых рассуждений и использования инструментов. Контекст составляет 32 768 токенов, а с YaRN может расширяться до 262 144 токенов. Модель предназначена для генерации ответов в чат-сценариях, решения задач на рассуждение и работы с длинными текстовыми запросами. В первую очередь она оптимизирована для английского, корейского и японского языков; на других языках качество может снижаться. Это промежуточный чекпойнт, и README указывает на Tri-21B-Think как на финальную версию. Для базовой Tri-21B указана лицензия trillion, а для Think и Think-Preview — Apache 2.0; при этом метаданные репозитория обозначают лицензию как other, поэтому условия использования следует сверить с файлами лицензии в репозитории.

TriMistral-7B-MODELSTOCK — объединённая чат-модель на архитектуре Mistral, созданная с помощью LazyMergekit из HuggingFaceH4/zephyr-7b-beta, NousResearch/Hermes-2-Pro-Mistral-7B и instructlab/merlinite-7b-lab. В README указан метод объединения model_stock, а базовой моделью конфигурации названа Zephyr-7B-β. Модель содержит 7,1 млрд параметров, использует формат Safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоге, ответов на вопросы и выполнения пользовательских инструкций. README приводит результаты оценки на наборах AI2 Reasoning Challenge и HellaSwag. Метаданные и карточка не подтверждают поддержку конкретных языков, поэтому языки не перечислены. Модель распространяется по лицензии Apache-2.0.

UNA-34Beagles-32K-bf16-v1 — экспериментальная диалоговая модель, опубликованная one-man-army и построенная на Yi-34B-200K с использованием Bagel. Это плотная 34-миллиардная языковая модель архитектуры Llama, распространяемая в формате Safetensors; заявленная длина контекста — 32 768 токенов. Модель дообучена на широком наборе данных для инструкций, диалогов, рассуждений, программирования, математики и ролевых сценариев, а также прошла DPO-обучение. Модель предназначена для генерации текста и ответов в диалоге: она может помогать с вопросами и ответами, анализом предоставленного контекста, написанием кода, математическими задачами и творческими или ролевыми текстами. В README указаны четыре варианта форматирования запросов: Vicuna, Llama 2, Alpaca и ChatML-подобный формат. Данные описывают многоязычные задачи, но конкретный перечень поддерживаемых языков не приведён. Автор сообщает, что включение Toxic DPO должно снизить цензурирование ответов. Это может повышать вероятность генерации токсичного или небезопасного текста; качество и надёжность ответов не гарантированы. Модель распространяется по лицензии Apache-2.0.

yam-jom-7B — объединённая языковая модель, созданная с помощью LazyMergekit из eren23/ogno-monarch-jaskier-merge-7b-OH-PREF-DPO-v2 и yam-peleg/Experiment26-7B. В конфигурации указаны метод task_arithmetic, веса 0,35 и 0,65 и формат bfloat16; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для генерации текста. В карточке приведены результаты Open LLM Leaderboard, включая оценки по AI2 Reasoning Challenge и HellaSwag. Контекстное окно составляет 32 768 токенов. Репозиторий содержит веса safetensors, лицензия — Apache-2.0.

Yi-70B-200k-RPMerge-Franken — плотная языковая модель примерно на 70,7 млрд параметров, созданная автором DisOOM с помощью mergekit. Автор описывает её как frankenmerge: слои Yi-34B-200K-RPMerge чередуются с копиями той же модели. В карточке также заявлены чат-возможности и контекст длиной до 200 000 токенов. Модель предназначена для генерации текста в диалогах, а также для задач понимания, рассуждения и письма. Автор сообщает о субъективно лучших результатах по сравнению с версией на 34 млрд параметров, но отмечает, что не проводил формальных бенчмарков и не смог широко проверить модель. Репозиторий содержит веса в формате safetensors; лицензия указана как other, поэтому условия использования следует уточнить в карточке модели.

ZEUS-8B-V25 — объединённая языковая модель, созданная с помощью mergekit методом DARE TIES на основе unsloth/Meta-Llama-3.1-8B-Instruct и нескольких моделей семейства Llama 3.1. Она предназначена для генерации текста и диалоговых сценариев; каталог также отмечает интерфейс вызова инструментов. Модель использует плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров, работает с контекстом до 131 072 токенов и загружает веса в формате safetensors. Модель подойдёт для создания диалоговых приложений, генерации ответов и работы с длинными текстовыми запросами. В README приведены результаты оценивания: средний балл 15,00%, IFEval — 33,20%, BBH — 21,85%; этих результатов недостаточно, чтобы судить о качестве на всех задачах. Лицензия в предоставленных данных не указана.

TheBloke/alpaca-lora-65B-HF — версия модели alpaca-lora-65B в формате Hugging Face Transformers, опубликованная TheBloke. Это плотная авторегрессионная модель семейства LLaMA с 65 млрд параметров, предназначенная для генерации текста и диалоговых ответов по инструкциям. В README указано, что это объединённая модель без квантования; исходная карточка changsung не предоставлена, а происхождение и вариант обучающих данных автор README точно установить не смог. Предположительно, модель дообучена на данных Alpaca. Модель принимает текст и генерирует текст. Указанная длина контекста — 2048 токенов. Репозиторий содержит веса PyTorch и распространяется с лицензией, обозначенной как «other»; конкретные условия использования по имеющимся сведениям определить нельзя. Возможности и качество следует оценивать с учётом отсутствия исходной карточки модели и неопределённости в данных обучения.

Генеративная языковая модель семейства Llama с примерно 7,5 млрд параметров, опубликованная на Hugging Face в формате, совместимом с библиотекой Transformers. По метаданным модель предназначена для генерации текста и поддерживает разговорный сценарий использования. Разработчик, точная архитектура, языки обучения и лицензия в доступных материалах не указаны. Модель может применяться для продолжения текста, создания ответов на сообщения, ведения диалога и встраивания в приложения на базе Transformers. Максимальная длина контекста составляет 8192 токена, что позволяет учитывать достаточно объёмную историю диалога или исходный документ. К сильным сторонам относятся относительно крупный размер для локальной генеративной модели и поддержка стандартной экосистемы Transformers. Ограничения связаны с отсутствием в карточке сведений о данных обучения, результатах оценки, безопасности, языковом покрытии, точной конфигурации и лицензии; ответы модели необходимо проверять, особенно в фактически значимых сценариях.

mrcuddle подготовил объединённую диалоговую языковую модель на базе Llama 3 8B. Веса NousResearch/Hermes-2-Pro-Llama-3-8B и jondurbin/bagel-8b-v1.0 объединены методом SLERP с помощью mergekit; архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров. Модель работает через Transformers, сохранена в формате safetensors, поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста и диалоговых ответов. Её можно использовать для общения с ассистентом, ответов на вопросы, написания текстов и кода, а также выполнения разнообразных текстовых инструкций. Метаданные указывают на возможность чата, однако README не приводит оценок качества или результатов тестирования. Сведения о лицензии в предоставленных источниках отсутствуют.

Sakalti/beril — разговорная языковая модель, созданная слиянием моделей Qwen/Qwen2.5-0.5B-Instruct и HuggingFaceH4/zephyr-7b-beta. Для объединения применён метод SLERP с помощью mergekit; модель использует архитектуру MistralForCausalLM и состоит из 5,1 млрд параметров. Модель предназначена для генерации текста и диалогов: её можно использовать для ответов на вопросы, выполнения инструкций и создания текстовых продолжений. Заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

BigQwen2.5-Echo-47B-Instruct-GGUF — набор GGUF-квантизаций модели BigQwen2.5-Echo-47B-Instruct, опубликованный пользователем bartowski и основанный на модели mlabonne. Квантизации подготовлены с помощью llama.cpp и imatrix; модель предназначена для генерации текста и работы в локальных средах инференса, включая LM Studio. Указанный язык — английский, формат взаимодействия использует шаблон Qwen с ролями system, user и assistant. Модель имеет размер 47B параметров, однако сведения о точной архитектуре, длине контекста и мультимодальных возможностях в README не указаны. Доступны варианты от F16 размером около 94,79 ГБ до низкобитных Q3 и Q4, а также Q5, Q6 и Q8; наиболее качественными и рекомендуемыми названы некоторые варианты Q6_K, Q5 и Q4. Квантизации позволяют выбирать баланс между качеством, размером файла и требованиями к памяти; отдельные варианты оптимизированы для ARM-процессоров. Ограничениями являются значительные требования к памяти для старших вариантов и возможное снижение качества у низкобитных квантизаций. Для запуска требуется совместимое программное обеспечение, например llama.cpp или LM Studio. Лицензия указана как other с названием tongyi-qianwen; в качестве текста лицензии приведена ссылка на лицензию Qwen2-72B-Instruct.

BlackSheep-Llama3.2-3B-Context_Obedient — языковая модель TroyDoesAI на архитектуре Llama, дообученная от TroyDoesAI/BlackSheep-Llama3.2-3B. Она предназначена для ответов на вопросы по заданному контексту, например в RAG-сценариях, и обучалась лучше следовать предоставленным источникам, чтобы снижать вероятность галлюцинаций. Модель принимает текст и генерирует текст; для контекстных запросов рекомендуется использовать формат с разделителями BEGININPUT, BEGINCONTEXT, ENDCONTEXT, ENDINPUT и BEGININSTRUCTION, ENDINSTRUCTION. Модель содержит 3,2 млрд параметров, рассчитана на контекст до 131 072 токенов и ориентирована на английский язык. Для обучения использовались Unsloth и библиотека TRL. Модель распространяется по лицензии Apache-2.0. Следование контексту — целевое свойство модели, а не гарантия точности: ответы могут содержать ошибки или неподтверждённые сведения. Для лучших результатов нужно передавать контекст в описанном формате и проверять важные ответы.

calme-2.2-qwen2-72b-GGUF — это квантизированная версия текстовой языковой модели calme-2.2-qwen2-72b, разработанной MaziyarPanahi на базе Qwen2-72B. GGUF-квантизации подготовлены пользователем bartowski с использованием llama.cpp и imatrix; модель предназначена для локального запуска, в частности через LM Studio, и поддерживает формат диалога ChatML. В README указано, что модель ориентирована на английский язык и задачи генерации текста, включая чат, следование инструкциям, рассуждения и решение математических и академических задач. Размер исходной модели составляет 72 млрд параметров. Доступны варианты квантизации от Q8_0 до более компактных Q3 и IQ4, с размером файлов примерно от 39,71 до 77,26 ГБ; некоторые варианты разделены на несколько файлов. Более высокие разрядности обычно сохраняют лучшее качество, тогда как компактные варианты снижают требования к памяти. Для ARM-платформ предусмотрена отдельная Q4_0_4_4. Размер контекста и мультимодальные возможности в README не указаны; по описанию это текстовая, а не мультимодальная модель. Сильными сторонами являются большой размер базовой модели, варианты квантизации для разного объёма доступной памяти и результаты на стандартных тестах, включая 80,08% строгой точности на IFEval, 56,8% на BBH и 41,16% exact match на MATH уровня 5. К ограничениям относятся высокие требования к оперативной или видеопамяти даже у компактных вариантов, возможное снижение качества из-за квантизации и относительно слабые результаты на отдельных сложных тестах, например GPQA и MuSR. Лицензия обозначена как other с названием tongyi-qianwen; условия следует уточнять по лицензии Qwen/Qwen2-72B.

ChimeraLlama-3-8B — объединённая языковая модель на базе семейства Llama 3, созданная mlabonne с помощью LazyMergekit. Она объединяет четыре модели: NousResearch/Meta-Llama-3-8B-Instruct, mlabonne/OrpoLlama-3-8B, Locutusque/Llama-3-Orca-1.0-8B и abacusai/Llama-3-Smaug-8B. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста в диалоговом формате; заявленная длина контекста — 8192 токена. Модель предназначена для диалогов, ответов на вопросы и генерации текста. В README приведено сравнение на наборе тестов Nous, где ChimeraLlama-3-8B немного опережает Llama 3 8B Instruct по среднему результату. Карточка указывает лицензию other; условия её использования следует сверить с лицензиями исходных моделей и самой карточкой. Оценки из бенчмарков не гарантируют аналогичного качества в других сценариях.

Edens-Gate/Control-8B-V1.1-abliteration — объединённая языковая модель, созданная с помощью mergekit методом task arithmetic на основе Delta-Vector/Control-8B-V1.1 и grimjim/Llama-3-Instruct-abliteration-LoRA-8B. Это плотная архитектура семейства Llama с примерно 7,5 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Модель принимает текст и выдаёт текст; заявленная длина контекста — 131072 токена. Модель опубликована в формате safetensors и использует библиотеку Transformers. Метаданные не содержат сведений о лицензии, поэтому условия использования по имеющимся данным определить нельзя. Карточка описывает метод слияния, но не приводит оценок качества или подробных ограничений применения.

CrPO-SFT-Llama-3.1-8B-Instruct — плотная языковая модель семейства Llama, разработанная авторами репозитория и дообученная методом supervised fine-tuning на наборе MuCE-SFT из работы Creative Preference Optimization. Она предназначена для диалогов и генерации текста по инструкциям; её можно применять как основу для разговорных ассистентов и генерации ответов. Модель содержит около 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. В карточке указана поддержка английского языка; доступны интерфейсы чата и вызова инструментов. Модель распространяется по лицензии MIT.

DareBeagle-7B — текстовая генеративная модель на архитектуре Mistral, созданная shadowml путём слияния моделей NeuralBeagle14-7B и NeuralDaredevil-7B с помощью LazyMergekit и метода SLERP. Модель содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Модель предназначена для генерации текста и ответов на запросы в диалоговых и других текстовых сценариях. В карточке приведены результаты оценки на бенчмарках рассуждений и здравого смысла, включая AI2 Reasoning Challenge и HellaSwag. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0. Результаты бенчмарков не гарантируют качество на конкретных прикладных задачах; сведения о поддерживаемых естественных языках в карточке отсутствуют.

DeepSeek-V4-Flash-0731-RAZOR-156B-A13B-E128of256 — производная модель семейства DeepSeek-V4 от DeepSeek-AI, созданная методом RAZOR без градиентного дообучения. Метод сокращает число маршрутизируемых экспертов в каждом из 43 MoE-слоёв с 256 до 128; внимания, общие эксперты, эмбеддинги и выходная голова сохранены. В карточке указано 156 млрд параметров, включая упаковку весов экспертов в 4 бита, и около 13 млрд активных параметров на токен. Модель предназначена для генерации текста. Для диалоговых запросов кодирование промптов выполняется официальной реализацией DeepSeek-V4, поскольку Jinja-шаблона чата нет. Заявленное контекстное окно — 1 048 576 токенов; репозиторий использует Transformers и содержит веса safetensors в формате FP8, при этом эксперты хранятся в MXFP4. Сокращение экспертов уменьшает модель при сохранении исходных весов оставшихся экспертов и не требует восстановительного обучения. Лицензия — MIT. Обрезка с потерями может менять разнообразие ответов, форматирование и поведение при завершении генерации; конечный корпус калибровки не характеризует поведение на далёких от него областях. Перед применением следует оценить качество на собственных задачах.

WaveCut подготовил квантованную сборку DeepSeek-V4-Flash-0731-REAM96-111B в формате GGUF. Это чат-модель с архитектурой mixture-of-experts: в сборке оставлено 96 из исходных 256 экспертов на слой. Экспертов квантовали до 2 бит, внимание — до 8 бит; для квантования использована importance matrix. Файл ream96.gguf занимает 36,4 ГБ, сборка рассчитана на конфигурации с 48 ГиБ памяти. Модель предназначена для многоязычного диалога, рассуждений, ответов на вопросы о коде и продолжительных бесед. В README отмечено, что многоязычный чат, рассуждения и длинные диалоги показывают стабильные результаты, однако 2-битная квантизация особенно ухудшает агентное поведение. В отдельных прогонах наблюдались сбои в русской игре слов, переключении с английского на русский, вызове инструментов и удержании фокуса в длинном диалоге. Для запуска требуется специализированная ветка DS4 с поддержкой переменного числа экспертов; обычный llama.cpp этот файл не загрузит. Лицензия — MIT. Для конфигураций запуска в README приведён контекст 8192 токена.

Dolphin-2.9.3-Mistral-Nemo-12B-Patched — текстовая генеративная модель, опубликованная AIOpsInSpace и созданная на основе cognitivecomputations/dolphin-2.9.3-mistral-nemo-12b. Модель предназначена для локального запуска и генерации текста, включая работу с длинными запросами и документами. В README заявлена специализация на английском языке. Модель имеет плотную архитектуру с 12 млрд параметров и поддерживает контекст длиной до 128K токенов. Версия распространяется в формате GGUF и содержит исправление ошибок сопоставления токенов в tokenizer, из-за которых некоторые локальные backend могли аварийно завершаться или зацикливаться при генерации на длинных промптах. Это является её ключевым преимуществом для локального использования и сценариев с большим контекстом. Ограничения включают отсутствие сведений о точных изменениях относительно базовой модели, результатах независимых тестов, требованиях к оборудованию, производительности и поддерживаемых языках помимо английского. В README указана лицензия Apache-2.0.

jaspionjader/dp-5-8b — объединённая языковая модель, созданная разработчиком jaspionjader из предварительно обученных моделей jaspionjader/dp-4-8b и jaspionjader/f-9-8b. Для слияния применён метод SLERP с помощью mergekit; архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия, принимает текст и выдаёт текст. Родная длина контекста составляет 8192 токена. Модель опубликована в формате safetensors и рассчитана на использование через Transformers. Карточка не сообщает специализированной предметной области или языкового профиля, поэтому её можно описать как модель общего назначения. Лицензия в предоставленных данных не приведена.

DPOpenHermes 7B v2 GGUF — квантизированная версия языковой модели Open Access AI Collective, подготовленная TheBloke в формате GGUF. Модель основана на архитектуре Mistral, содержит около 7 миллиардов параметров и предназначена для генерации текста на английском языке, включая диалоговые и инструкционные сценарии. Модель обучалась с использованием наборов данных teknium/openhermes, allenai/ultrafeedback_binarized_cleaned и Intel/orca_dpo_pairs. Для общения используется шаблон ChatML с системными и пользовательскими сообщениями. GGUF-файлы доступны в вариантах с 2-, 3-, 4-, 5-, 6- и 8-битной квантизацией, что позволяет запускать модель с разными компромиссами между качеством, скоростью и требованиями к памяти на CPU и GPU. Модель совместима с llama.cpp и рядом пользовательских интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Ограничения включают поддержку только английского языка согласно карточке и отсутствие сведений о мультимодальности или размере контекстного окна. Лицензия — Apache 2.0.

DPOpenHermes-7B-v2-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель MaziyarPanahi, полученная слиянием Mistral-7B-Instruct-v0.2 и DPOpenHermes-7B-v2 методом SLERP. Она предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель построена на архитектуре Mistral с плотной архитектурой и содержит 7,1 млрд параметров. Она работает с текстом, поддерживает чат и принимает контекст длиной до 32 768 токенов. В репозитории доступны веса в формате Safetensors. Модель подходит для диалоговых помощников и генерации ответов по пользовательским инструкциям. Карточка не приводит отдельных оценок качества или специальных ограничений. Лицензия — Apache-2.0.

jaspionjader/ek-5 — разговорная языковая модель на архитектуре Llama, созданная объединением моделей с помощью mergekit и метода Model Stock. В качестве базовой использована jaspionjader/ek-1; в слияние также вошли jaspionjader/ek-3 и jaspionjader/ek-4. Модель предназначена для генерации текста и диалогового общения. Она содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия в доступных данных не указана.

Etheria-55b-v0.1 — плотная языковая модель семейства Llama, созданная слиянием моделей серии Etheria и моделей Yi-34B-200K. Автор объединил варианты VerA и VerB, затем применил метод DARE TIES; в метаданных указаны 55,1 млрд параметров и формат safetensors. Модель предназначена для генерации текста и диалогового общения; в README указана совместимость с форматами запросов ChatML и Alpaca. Для контекста заявлена теоретическая длина до 200 000 токенов, однако автор рекомендует начинать с 32 000 токенов, поскольку влияние слияния на работу с длинным контекстом не проверено. README сообщает о тестировании до 32 000 токенов через exl2 и приводит результаты нескольких оценок на Open LLM Leaderboard. Модель распространяется по лицензии Apache-2.0.

Evangelion-7B — разговорная языковая модель на архитектуре Mistral, опубликованная VitalContribution. Она создана на основе Weyaxi/OpenHermes-2.5-neural-chat-v3-3-Slerp и сочетает слияние DPO-оптимизированной и не оптимизированной моделей с дополнительным обучением на отфильтрованной выборке примерно из 3000 примеров argilla/distilabel-intel-orca-dpo-pairs. Для диалогов используется шаблон ChatML, встроенный в токенизатор. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и ведения диалогов; в README приведены результаты оценки на нескольких бенчмарках рассуждений и понимания текста. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Experiment26Neuralsirkrishna_Experiment29Experiment24 — объединённая автором карточки модель на базе двух моделей Mistral: automerger/Experiment26Neuralsirkrishna-7B и automerger/Experiment29Experiment24-7B. Она предназначена для генерации текста и диалогов, в том числе с использованием длинного контекста до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате safetensors. Для использования доступны задачи генерации текста. Модель выпущена под лицензией Apache-2.0.