II.1Анализ требований и архитектура ПО

MaziyarPanahi/Mini_DPO_test02-Mistral-7B-Instruct-v0.1 — чат-модель для генерации текста в ответ на инструкции и диалоговые запросы. Она создана слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.1 и Minirecord/Mini_DPO_test02. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Заявленная длина контекста — 32 768 токенов; репозиторий содержит веса в формате safetensors с точностью bfloat16. Модель принимает текст и генерирует текст. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает о результатах оценок качества или специализированных ограничениях, поэтому качество ответов следует оценивать на задачах конкретного применения.

win10/miscii-14b-1M-0128 — созданная с помощью mergekit и метода SCE объединённая языковая модель на архитектуре Qwen2, разработчик — win10. В качестве основы использована sthenno-com/miscii-14b-1225; в объединение также вошли несколько моделей Qwen2.5 и производные от DeepSeek-R1-Distill-Qwen-14B. Модель содержит 14 млрд параметров и рассчитана на генерацию текста и диалоги. Заявленный контекст — до 131 072 токенов; в карточке указаны английский и китайский языки. Модель распространяется в формате safetensors через библиотеку Transformers по лицензии Apache-2.0. README приводит результаты оценок IFEval и BBH, но не описывает методику проверки или практические ограничения качества; фактическая производительность может зависеть от запроса и настроек генерации.

AIR-hl/Mistral-7B-Base-WPO-bf16 — текстовая чат-модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Репозиторий описывает перенос весов wzhouad/zephyr-7B-WPO-FP из float32 в bfloat16; метаданные также связывают модель с HuggingFaceH4/mistral-7b-sft-beta и указывают слияние моделей. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. В метаданных указан датасет ultrafeedback_binarized и лицензия Apache-2.0. Карточка не описывает отдельные ограничения качества или области применения.

Jan-HQ Mistral-7B-Instruct-v0.2-SLERP — языковая модель Jan на базе Mistral-7B-Instruct-v0.2, созданная слиянием методом SLERP базовой модели с Marcoroni-7B-v3 и go-bruins-v2. Это плотная авторегрессионная модель MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. В карточке указаны шаблоны ChatML и Alpaca, а запуск предлагается через Jan Desktop на macOS, Windows и Linux. Метаданные указывают английский язык и возможность chat. README описывает проект как тест слияния моделей; результатов оценки в карточке нет. Доступна по лицензии Apache-2.0.

jpquiroga/Mistral_7B_slerp_merge_instruct_open_orca — объединённая модель на основе Mistral-7B-Instruct-v0.1 и Open-Orca/Mistral-7B-OpenOrca, созданная автором репозитория с помощью mergekit и метода SLERP. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов на инструкции. Её можно применять в чат-ботах, помощниках и системах, которым нужны ответы на запросы на естественном языке. Заявленная длина контекста составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает результатов оценки качества или отдельных ограничений поведения, поэтому фактическую пригодность для конкретных задач следует проверять на собственных примерах.

Mistral-7B-v0.2 — плотная авторегрессионная языковая модель семейства Mistral с 7,1 млрд параметров, представленная в формате safetensors. Репозиторий mistral-community содержит конвертированный чекпойнт; README предупреждает, что он может быть устаревшим, и рекомендует использовать соответствующую версию из исходного репозитория. Для токенизатора может потребоваться файл tokenizer.model из Mistral-7B-Instruct-v0.2. Модель предназначена для генерации текста и может использоваться для продолжения текста, черновиков и ответов на текстовые запросы. Заявленная длина контекста — 32 768 токенов. Лицензия — Apache-2.0.

Mistral-MBX-7B-slerp — языковая модель на 7,1 млрд параметров, созданная AutoSynthetix AI слиянием Mistral-7B-v0.1 и MBX-7B-v3 методом SLERP с помощью LazyMergekit. Модель предназначена для генерации текста и может использоваться в приложениях, которым нужны ответы и продолжение текста на основе текстового запроса. Модель использует плотную архитектуру MistralForCausalLM и поддерживает контекст длиной до 32 768 токенов. Веса доступны в формате safetensors; метаданные указывают лицензию OpenRAIL, а README также упоминает лицензии Apache 2.0 для исходных моделей и LGPL-3.0 для MergeKit, поэтому условия использования следует сверять по карточке модели и лицензиям компонентов. README не приводит сведения о языковой специализации или оценках качества.

MistralTrinity-7B-slerp — языковая модель для генерации текста и диалоговых ответов, созданная объединением Mistral-7B-Instruct-v0.2 и trinity-v1 с помощью LazyMergekit. При слиянии применён метод SLERP; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель принимает текст и выдаёт текст, поддерживает диалоговый режим. Модель подходит для ответов на инструкции, ведения диалога и генерации текста с длинным контекстом. В README не приведены результаты оценки качества или сведения о целевых языках, поэтому конкретные сильные стороны по сравнению с исходными моделями и языковое покрытие определить нельзя. Распространяется по лицензии Apache-2.0.

Jackrong/MLX-Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-4bit — это языковая модель для генерации текста и задач, требующих рассуждений. Модель разработана Jackrong и представляет собой версию Jackrong/Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled, преобразованную в формат MLX с использованием mlx-lm 0.30.7. Модель предназначена для диалоговой генерации и reasoning-сценариев на английском и китайском языках. Она основана на архитектуре Qwen3.5 с размером 9 млрд параметров и использует 4-битное представление, что уменьшает требования к памяти по сравнению с полноразмерной версией. В метаданных также указаны обучение или настройка на наборах Jackrong/Qwen3.5-reasoning-700x и nohurry/Opus-4.6-Reasoning-3000x-filtered. К сильным сторонам относятся специализация на рассуждениях, поддержка английского и китайского языков и совместимость с экосистемой MLX через библиотеку mlx-lm. Ограничения включают неизвестную длину контекста и отсутствие сведений о мультимодальности; по назначению это текстовая модель. Использование распространяется на условиях лицензии Apache-2.0.

Neural-Chat-v3 — языковая модель с 7,1 млрд параметров, разработанная командой NeuralChat компании Intel. Это дообученная на Open-Orca/SlimOrca модель Mistral-7B-v0.1, дополнительно выровненная методом Direct Preference Optimization на парах Intel/orca_dpo_pairs. Модель предназначена для генерации текста и языковых задач, включая диалоговые сценарии и ответы на запросы. README указывает контекст 8192 токена; в метаданных каталога указано значение 32768 токенов. Модель ориентирована на английский язык. Модель распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0. README отмечает, что результаты зависят от формулировки запроса и что для конкретных задач может потребоваться дополнительное дообучение. Модель может выдавать фактически неверные, предвзятые, оскорбительные или непристойные ответы, поэтому перед применением в продукте необходима проверка безопасности.

NeuralsirkrishnaShadow_Experiment24Inex12 — языковая модель на архитектуре Mistral, созданная слиянием моделей automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment24Inex12-7B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужны продолжение текста или ответы в свободной форме. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст длиной до 32 768 токенов. Веса опубликованы в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0.

NeuralsirkrishnaShadow_Experiment28Experiment26 — слитая модель для генерации текста, созданная путём объединения automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment28Experiment26-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; контекстное окно — до 32 768 токенов. Модель подходит для генерации продолжений и ответов на текстовые запросы. Репозиторий содержит веса в формате safetensors. Лицензия — Apache 2.0.

NeuralsirkrishnaShadow_ShadowYam — объединённая языковая модель на архитектуре Mistral, созданная путём слияния automerger/NeuralsirkrishnaShadow-7B и automerger/ShadowYam-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста; контекстное окно составляет до 32 768 токенов. Модель подходит для генерации продолжений и ответов по текстовым запросам. Репозиторий распространяет веса в формате Safetensors по лицензии Apache 2.0. README не сообщает о специализации по языкам или прикладным областям.

NeuralSOTA-7B-slerp — объединённая модель, созданная Kukedlc с помощью LazyMergekit на основе трёх моделей: NeuralSoTa-7b-v0.1, NeuralSynthesis-7B-v0.3 и NeuralSirKrishna-7b. В карточке указан метод слияния dare_ties; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров, веса представлены в формате safetensors и типе bfloat16. Модель предназначена для генерации текста и диалога. Она принимает текст и поддерживает контекст до 32 768 токенов. Данные карточки не уточняют поддерживаемые языки, специализированные области или сравнительное качество. Лицензия в предоставленных сведениях не указана.

mayacinka/NeuralZephyr-Beagle-7B — языковая модель для генерации текста, созданная слиянием предварительно обученных моделей с помощью mergekit. В README указаны DARE TIES и модели mlabonne/NeuralBeagle14-7B и HuggingFaceH4/zephyr-7b-alpha; базой слияния служит CultriX/NeuralTrix-7B-dpo. Каталог связывает репозиторий с этой базовой моделью и отмечает её дообучение. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Она предназначена для генерации текста общего назначения; в README приведены результаты Open LLM Leaderboard по задачам рассуждения, понимания текста и математическим вопросам, но эти оценки сами по себе не гарантируют качество на прикладных данных. Репозиторий содержит веса safetensors и использует лицензию Apache-2.0.

Openchat-Passthrough-2 — объединённая языковая модель, созданная с помощью mergekit из openchat/openchat-3.5-1210 и openchat/openchat-3.5-0106. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 10,6 млрд параметров. Модель предназначена для генерации текста и диалогового общения. Она принимает текстовые запросы и выдаёт текстовые ответы; заявленная длина контекста составляет 8192 токена. Веса опубликованы в формате safetensors, конфигурация слияния использует bfloat16. Репозиторий распространяется по лицензии Apache-2.0. Карточка не сообщает о специализированных областях применения или об отдельных оценках качества этой версии.

JASouth публикует квантованную сборку языковой модели Ornith-1.5-9B от Ornith AI. Это вариант IQ-Hybrid в формате GGUF с калибровкой по importance matrix и смешанной точностью слоёв, рассчитанный на запуск на потребительских видеокартах с 8 ГБ видеопамяти. Модель предназначена для генерации текста и диалогового использования; исходная модель описана как подходящая для программирования, агентных задач и работы с инструментами в длинном контексте. В репозитории приведены варианты размером 5,38 и 6,55 ГБ и результаты сравнения perplexity на Wikitext-2. Автор сообщает, что вариант 5,38 ГБ показывает perplexity 9,2262 против 9,4833 у официального Q6_K и помещается в ограничения 8 ГБ VRAM; также заявлена поддержка длинного контекста, однако точная длина контекста исходной модели в доступных данных не приведена. Лицензия — MIT. Результаты производительности и качества являются заявлениями автора и зависят от конфигурации запуска.

bunsenfeng/parti_4_full — текстовая генеративная модель семейства Qwen2, размещённая пользователем bunsenfeng на Hugging Face. По метаданным, она содержит 7,1 млрд параметров, построена на архитектуре Qwen2ForCausalLM и использует Transformers; заявлены генерация текста и диалоговый режим. Для развёртывания указаны веса Safetensors и контекст до 32 768 токенов. Модель подходит для диалогов и генерации текста, в том числе для работы с длинным контекстом. Источники не позволяют надёжно установить конкретные обучающие задачи, поддерживаемые языки или лицензионные условия; поэтому не следует считать её специализированной для отдельных областей или языков.

Prima-LelantaclesV6-7b — объединённая модель семейства Mistral с 7,1 млрд параметров, опубликованная ChaoticNeutrals. Она создана методом DARE TIES на основе Test157t/Lelantacles6-Experiment26-7B и Test157t/West-Pasta-Lake-7b и предназначена для генерации текста на основе текстового запроса. Веса доступны в формате Safetensors; заявленная длина контекста составляет 32 768 токенов. Модель подходит для диалогов, написания и продолжения текста, а также задач на рассуждение в сценариях, где требуется генеративная языковая модель. В README приведены результаты Open LLM Leaderboard, включая средний балл 73,41, но подробные результаты представлены не полностью. Указана лицензия other, поэтому условия использования следует сверять с лицензиями исходных моделей и репозитория; конкретные ограничения качества и поддерживаемые языки в доступных данных не описаны.

Qwen3.6-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled-GGUF — набор GGUF-квантизаций модели, разработанный hesamation на основе Qwen/Qwen3.6-35B-A3B. Исходная модель дообучена методом supervised fine-tuning с LoRA на данных, имитирующих рассуждения Claude Opus, а затем объединена с базовой моделью и преобразована в формат GGUF с использованием инструментов llama.cpp. Модель предназначена для генерации текста и локального или серверного запуска в совместимых средах, включая современные сборки llama.cpp. Модель ориентирована на диалоговые сценарии, текстовую генерацию и задачи, требующие пошагового рассуждения. Указаны варианты Q4_K_M, Q5_K_M, Q6_K и Q8_0: они различаются размером, требованиями к памяти и ожидаемым качеством. Архитектура базовой модели обозначена как Qwen3.6-35B-A3B; в README также указано, что она включает vision encoder, однако данное дообучение выполнялось только на текстовых примерах. Поэтому улучшения для изображений и видео не заявлены, а мультимодальное поведение следует считать унаследованным от базовой модели. Максимальная длина последовательности при обучении составляла 32768 токенов, заявленный язык — английский. Главное преимущество модели — специализация на рассуждениях и возможность подобрать компромисс между качеством и потреблением памяти с помощью разных уровней квантизации. На ограниченном тесте MMLU-Pro исходная объединённая модель получила 75,71% exact match против 42,86% у базовой модели, но этот результат относится не к отдельным GGUF-файлам, основан на 70 вопросах и не является полноценной оценкой; квантизация может изменить показатели, особенно при низкой разрядности. Модель и её GGUF-варианты распространяются по лицензии Apache-2.0.

eme/Qwen3.6-35B-A3B-FP8-Q4_K_M-MTP-GUFF — это GGUF-конверсия модели Qwen3.6-35B-A3B от команды Qwen, подготовленная пользователем eme. Модель основана на варианте Qwen/Qwen3.6-35B-A3B-FP8 и предназначена для локального запуска и эффективного инференса через llama.cpp. В README также упоминаются возможности Qwen3.6 для агентного программирования, работы с фронтенд-разработкой и рассуждений на уровне репозитория, однако эти сведения приведены для другой конфигурации Qwen3.6 и не позволяют полностью подтвердить характеристики данного варианта. Финальные веса используют квантизацию Q4_K_M для формата GGUF; исходная модель экспортирована в FP8 с форматом F8_E4M3. Такое представление уменьшает объём памяти и нагрузку на пропускную способность по сравнению с BF16, сохраняя близкое к BF16 качество для большинства задач инференса. В модель интегрирован Multi-Token Prediction (MTP), который может ускорять декодирование за счёт спекулятивного предсказания нескольких токенов. Точные сведения о контекстном окне, поддерживаемых языках и мультимодальности для этого конкретного файла не указаны; тег image-text-to-text присутствует в метаданных, но не подтверждает фактическую поддержку изображений. Для работы рекомендуется свежая версия llama.cpp с поддержкой CUDA и MTP-aware decoding; требуется достаточно VRAM в зависимости от длины контекста и размера батча. Пример запуска из README показывает работу на RTX 4080 с 16 ГБ памяти, но это не является гарантией совместимости или производительности в других конфигурациях. Ограничения включают возможные потери качества из-за Q4_K_M и зависимость ускорения от поддержки MTP и оптимизированных ядер в используемом рантайме. Лицензия указана как Apache-2.0.

rico03/Qwen3.8-27B-Claude-Opus-Reasoning-Distilled-GGUF — набор GGUF-квантизаций модели, разработанный пользователем rico03 на базе Qwen/Qwen3.8-27B. Модель дообучена методом LoRA с использованием Unsloth и дистиллирована на рассуждениях и ответах Claude Opus 4.6/4.7. Лицензия — Apache-2.0. Модель предназначена для генерации текста и задач, требующих развитого пошагового рассуждения. Она использует плотную архитектуру на 27 млрд параметров с гибридным сочетанием полной и линейной attention-механики Gated DeltaNet, а также Multi-Token Prediction (MTP) head. Базовая Qwen3.8-27B является мультимодальной vision-language моделью, однако дообучение затрагивало только текстовый путь; зрительная часть сохранена без изменений. В README заявлен английский язык, размер контекста не указан. Доступны варианты от F16 до Q4_K_M, что позволяет выбирать между качеством, размером и требованиями к памяти. MTP поддерживает само-спекулятивное декодирование и, по приведённым замерам на H100 NVL, может ускорять генерацию примерно в 1,6 раза без изменения распределения выходов. Ограничения модели включают неполностью скомпоновавшееся дообучение: это проверочный запуск на 150 шагах, а не полностью сходимая fine-tune-версия. Кроме того, значительная часть обучающих рассуждений была реконструирована отдельной моделью, а не взята из внутреннего процесса Claude Opus. Для работы требуется свежая сборка llama.cpp с поддержкой гибридной архитектуры Gated DeltaNet и MTP; старые версии могут не загрузить модель корректно.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая версия модели Qwen3.8-27B, опубликованная пользователем biennequants на основе модели DavidAU. В README указаны языки английский и китайский, а также варианты GGUF-квантования с точностью 4 и 8 бит, включая версии с MTP и imatrix. Модель создана с применением методов Cold Fusion, Fable Fusion и инструментов Unsloth; заявленная цель — повысить способности к рассуждению и программированию, сократить объём внутренних рассуждений и ускорить генерацию на потребительском оборудовании. Модель предназначена для решения общих задач, анализа и рассуждений, программирования, творческого письма, создания художественных текстов и ролевых сценариев. Автор заявляет о высоких результатах на тестах ARC-C и ARC-E, превосходстве базовых моделей в ряде бенчмарков и сохранении близкой производительности 4-битной версии к 8-битной, однако эти показатели представлены в README и не подтверждены независимой проверкой. К сильным сторонам относятся сокращённое «мышление», высокая детализация ответов и доступность квантованных вариантов для локального запуска; ограничения включают отсутствие точных сведений о размере контекста, мультимодальных возможностях и системных требованиях, а также потенциально неконтролируемый или откровенный характер ответов, на что указывают обозначения uncensored и heretic. Лицензия — Apache-2.0.

QwQ-32B-GGUF — это квантизированная в формате GGUF версия языковой reasoning-модели QwQ-32B, разработанной командой Qwen. Модель предназначена для генерации текста и диалоговых сценариев, в частности для задач, требующих рассуждений. Указанный вариант подготовлен quantized_by: bartowski на основе llama.cpp release b4792 и распространяется как community-модель для LM Studio. Модель имеет размер 32B параметров, поддерживает контекст до 128 тысяч токенов и ориентирована на работу с текстом на английском языке. README не указывает поддержку изображений, аудио или других модальностей, поэтому модель следует рассматривать как текстовую. Квантизация в GGUF делает её пригодной для локального запуска в совместимом программном обеспечении, однако конкретные требования к памяти, скорость и качество зависят от выбранного варианта квантизации и оборудования. Сильными сторонами модели являются специализация на рассуждениях, большой контекст и возможность локального использования через инструменты экосистемы llama.cpp и LM Studio. Ограничениями остаются английская языковая ориентация, необходимость значительных вычислительных ресурсов для модели такого размера и возможное снижение качества по сравнению с исходной моделью из-за квантизации. README предупреждает, что модель может генерировать неточный, вредный или неуместный контент, поэтому результаты требуют проверки. Лицензия — Apache-2.0.

sfm_filtered_midtrain_alignment-1k_2k_3k_simpleavg_merge — объединённая языковая модель на архитектуре GPT-NeoX, созданная с помощью mergekit. В линейное слияние вошли контрольные точки предобучения на шагах 1000, 2000 и 3000; базовой для слияния указана контрольная точка global_step3000. Репозиторий содержит веса в формате safetensors и предназначен для генерации текста и диалогового взаимодействия. Модель содержит 8,8 млрд параметров и поддерживает контекст длиной до 16 384 токенов. В карточке не приведены сведения о языках обучения, целевых областях или лицензии, поэтому их нельзя надёжно определить по доступным данным.

shadow-clown-7B-slerp — объединённая методом DARE через mergekit языковая модель семейства Mistral, созданная на основе Gille/StrangeMerges_32-7B-slerp и yam-peleg/Experiment26-7B. Она предназначена для генерации текста и может использоваться в сценариях, где требуется продолжать или создавать текст по запросу. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает о специальных ограничениях или целевых языках.

tayaee/Single_GPU_Llama3-8B — языковая модель семейства Llama 3 для генерации текста, опубликованная пользователем tayaee на Hugging Face. README содержит автоматически созданную карточку без сведений о разработчике, обучающих данных, результатах оценки и лицензии. Модель предназначена для задач генерации и продолжения текста, диалоговых сценариев, создания черновиков и интеграции в приложения на базе библиотеки Transformers. В метаданных указаны поддержка тегов text-generation и conversational, размер около 7,5 млрд параметров и контекстное окно до 131 072 токенов. Доступна в формате safetensors и рассчитана на запуск в сценариях, ориентированных на использование одного GPU, согласно названию модели. Языки естественного языка в метаданных не указаны. Для модели не приведены результаты бенчмарков, сведения о точности, лицензии или специальных доменах применения, поэтому перед использованием в критически важных системах необходимы самостоятельное тестирование и проверка условий распространения.

Azazelle/SlimMelodicMaid — текстовая генеративная модель семейства Mistral, созданная слиянием моделей Silicon-Maid-7B, piano-medley-7b, xDAN-L1-Chat-RL-v1 и mistral-7b-slimorcaboros. В карточке указано слияние Slerp; конфигурация mergekit также описывает слияние весов моделей Azazelle/Silicon-Medley и Azazelle/xDAN-SlimOrca на базе mistralai/Mistral-7B-v0.1. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев; в карточке приведены результаты оценок на задачах рассуждения и продолжения ситуаций. Репозиторий содержит веса в формате Safetensors. Лицензия — CC BY 4.0. Карточка не сообщает о специальных ограничениях применения или о целевых языках; качество и поведение могут зависеть от запроса и конкретного сценария использования.

Speechless Llama2 Hermes Orca Platypus WizardLM 13B — текстовая генеративная модель, созданная объединением NousResearch/Nous-Hermes-Llama2-13b, Open-Orca/OpenOrca-Platypus2-13B и WizardLM/WizardLM-13B-V1.2. Модель основана на архитектуре Llama 2 и содержит 12,9 млрд параметров; автор README рекомендует подавать инструкции в формате Alpaca. Контекст составляет 4096 токенов. Модель предназначена для генерации текста по инструкциям: диалоговых ответов, объяснений и помощи в решении задач. README приводит результаты lm-evaluation-harness на ARC, HellaSwag и MMLU. Доступны упоминания вариантов AWQ, GPTQ и GGUF для GPU- и CPU+GPU-инференса, тогда как файлы этого репозитория представлены в формате safetensors. Карточка указывает английский как целевой язык. Для базовой модели Llama 2 указана лицензия Meta; перед использованием весов необходимо принять условия лицензии. Как и другие LLM, модель может выдавать неточные, предвзятые или нежелательные ответы; перед внедрением требуется проверка в целевом сценарии.

Это чат-модель MaziyarPanahi, полученная слиянием Mistral-7B-Instruct-v0.1 и speechless-mistral-dolphin-orca-platypus-samantha-7b-dare-0.85 методом SLERP. Она предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст; карточка указывает формат safetensors и лицензию Apache-2.0. README описывает смешивание весов в bfloat16 с отдельными параметрами для слоёв self-attention и MLP. Данные карточки не задают конкретные языки или специализированные области применения.