I.3Извлечение и структурирование данных

Kaoeiri/Interleaved-upscale-magnum-v4-39B — объединённая модель большого языкового моделирования, созданная с помощью mergekit на основе anthracite-org/magnum-v4-22b. Она использует плотную архитектуру MistralForCausalLM с 38,8 млрд параметров и рассчитана на генерацию текста, включая диалоговые сценарии и интерфейс вызова инструментов. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors и предназначен для использования с Transformers. Лицензия CC BY-ND 4.0 требует указания авторства и ограничивает распространение производных материалов согласно её условиям. Карточка описывает слияние методом passthrough, включающее anthracite-org/magnum-v4-22b.

InternLM-7B — базовая плотная авторегрессионная языковая модель семейства InternLM, разработанная командой InternLM. Модель содержит 6,9 млрд параметров и обучена на триллионах качественных токенов; её можно использовать как основу для практических сценариев и собственных рабочих процессов с инструментами. Модель предназначена для генерации текста, ответов на вопросы и решения общих языковых задач, включая задачи на знания, понимание и рассуждение. В README приведены результаты оценки на C-Eval, MMLU и AGIEval. Контекст составляет 2048 токенов; репозиторий содержит веса PyTorch. Модель поддерживает китайский и английский языки. Она может генерировать предвзятые, дискриминационные или иные нежелательные ответы. Код распространяется по Apache-2.0; для весов указана открытость для академических исследований и возможность запросить бесплатную коммерческую лицензию.

I-OpenPipe-NH2-Solar-7B-slerp — языковая чат-модель, созданная слиянием OpenPipe/mistral-ft-optimized-1218 и NousResearch/Nous-Hermes-2-SOLAR-10.7B методом slerp с помощью LazyMergekit. Это плотная авторегрессионная модель семейства Llama с 7,1 млрд параметров, предназначенная для генерации текста, диалогов и выполнения инструкций. Модель принимает текст и генерирует текст; метаданные указывают контекст длиной 4096 токенов. Доступны веса в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0. Карточка не содержит результатов оценки качества или подробных сведений о поддерживаемых языках.

jina-reranker-v2-base-multilingual-GGUF — экспериментальная GGUF-версия модели jina-reranker-v2-base-multilingual, разработанной и обученной Jina AI. Это трансформерная cross-encoder-модель для переранжирования результатов информационного поиска: она принимает пару «запрос — документ» и возвращает оценку релевантности документа запросу. Модель предназначена для многоязычного поиска, включая задачи retrieval, reranking, code retrieval, text-to-SQL и сценарии с function calling. Модель поддерживает контекст до 1024 токенов; более длинные тексты обрабатываются скользящим окном с разбиением на фрагменты. Она работает с несколькими языками, однако точный языковой список и размер модели в README не указаны. Использование flash attention повышает производительность, но требует совместимого GPU. GGUF-версия основана на llama.cpp и предназначена для экспериментального запуска только через gpustack/llama-box версии 0.0.72 или новее. Сильной стороной модели является способность сопоставлять запросы и документы на разных языках и выдавать оценки релевантности, пригодные для сортировки результатов. Ограничения включают максимальную длину контекста, зависимость flash attention от оборудования и экспериментальный статус GGUF-сборки. Репозиторий распространяется по лицензии CC-BY-NC-4.0 для исследований и оценки; коммерческое использование этой версии не разрешено.

Josiefied-Qwen3-4B-abliterated-v2 — диалоговая языковая модель Goekdeniz-Guelmez на архитектуре Qwen3, дообученная на основе Qwen/Qwen3-4B-Instruct-2507 и модифицированная методом Gabliteration. Она предназначена для генерации текста, общения и выполнения инструкций; сохранена поддержка вызова инструментов через соответствующий интерфейс. Модель содержит 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. Разработчик заявляет, что модификация снижает отказы и ограничения на генерацию, сохраняя следование инструкциям и работу с инструментами. Доступны веса в формате safetensors; в карточке также упоминаются варианты GGUF и i1 GGUF. Лицензия в предоставленных данных не указана.

Это декензурированная версия K2-Horizon-MoVA-36B-A4B, созданная с помощью Heretic v1.4.0. Исходная модель разработана IFM и представляет собой разреженную архитектуру Mixture-of-Experts с механизмом внимания Mixture-of-Values (MoVA). В README указано 36 млрд параметров модели и около 4 млрд активных на токен; метаданные каталога указывают 3,7 млрд параметров. Контекст модели — до 524 288 токенов. Модель предназначена для генерации текста в диалоге, рассуждений и агентных сценариев; поддерживает интерфейс вызова инструментов. В карточке описано снижение частоты отказов после abliteration, однако в приведённом сравнении модель всё ещё отказывала в 56 из 100 запросов против 98 у оригинала. Указанные языковые сведения ограничены английским. Репозиторий содержит веса Safetensors и рассчитан на использование через Transformers; в README также приведены инструкции для vLLM и SGLang. Лицензия — Apache-2.0. Для запуска исходной конфигурации автор приводит пример с двумя ускорителями H200; это не устанавливает минимальные требования для всех вариантов развёртывания.

KR-X-AI/krx-qwen2.5-7b-instruct-v2-m — дообученная KR-X-AI модель семейства Qwen2.5, разработанная KR-X-AI на основе KR-X-AI/krx-qwen2.5-7b-instruct-v2. Это плотная языковая модель с архитектурой Qwen2ForCausalLM и 7,1 млрд параметров; при обучении использовались Unsloth и библиотека Hugging Face TRL. Модель предназначена для генерации текста и диалоговых ответов, включая сценарии с интерфейсом вызова инструментов. Она принимает текст и выдаёт текст. Указанная длина контекста — 32 768 токенов; карточка помечает английский язык. Модель распространяется по лицензии Apache-2.0. Данных о специализированных областях применения и известных ограничениях в карточке нет.

LFM2.5-1.2B-Thinking-ToMoE-GGUF — набор GGUF-квантизаций модели, опубликованный Nichonauta. Основа — LiquidAI/LFM2.5-1.2B-Thinking, преобразованная в ToMoE Mixture-of-Experts. Модель предназначена для генерации текста и задач, требующих рассуждений; поддерживает нативное поведение с блоком <think>. Указаны языки: английский, арабский, китайский, французский, немецкий, японский, корейский и испанский. Модель рассчитана на локальный запуск через llama.cpp, включая сценарии on-device с объёмом хранения менее 1 ГБ. Доступны варианты BF16 размером 2343 МБ, Q8_0 размером 1186 МБ и Q4_K_M размером 695 МБ. Рекомендуемый контекст — до 32768 токенов. В README не указаны точные параметры архитектуры и число активных экспертов; размер модели обозначен как 1.2B в названии базовой модели. Для Q4_K_M заявлена скорость около 302 токенов в секунду на RTX 3060, для Q8_0 — около 212, для BF16 — около 125. Важное ограничение GGUF-версии заключается в том, что llama.cpp не поддерживает нативные ToMoE-эксперты и динамические V-маски. Поэтому модель восстановлена как плотный эквивалент и по поведению соответствует плотной базовой модели, а не исходной MoE-версии. Для использования настоящего MoE требуется версия safetensors с параметром trust_remote_code. Производительностью и компактностью особенно выделяется Q4_K_M, однако квантизация может снижать точность по сравнению с BF16. Производная распространяется по лицензии LFM Open License v1.0; ссылка на лицензию указана в карточке модели.

TheBloke/Llama-2-7B-Chat-GPTQ — это квантизированная версия диалоговой языковой модели Llama 2 7B Chat, разработанной Meta, подготовленная TheBloke в формате GPTQ. Модель предназначена для генерации текста и ведения диалогов: ответов на вопросы, помощи пользователю и других сценариев, где требуется текстовый ассистент. Для работы рекомендуется использовать шаблон промпта Llama-2-Chat с системными инструкциями и пользовательским запросом. Модель основана на архитектуре Llama и содержит 7 миллиардов параметров. Она работает с текстом, поддерживает английский язык и рассчитана прежде всего на GPU-инференс. В репозитории доступны варианты с разными параметрами квантизации GPTQ, включая разрядность, размер групп, порядок активаций и другие настройки; конкретные варианты позволяют выбирать компромисс между требованиями к VRAM и точностью. Некоторые файлы совместимы с ExLlama, который поддерживает Llama-модели в 4-битном формате. К сильным сторонам относятся сниженные требования к памяти по сравнению с полноразмерной версией и наличие нескольких вариантов квантизации для различного оборудования. Ограничения связаны с потерями точности, возможными при квантизации, отсутствием мультимодальности и тем, что модель не предназначена для генерации фактически гарантированно достоверных ответов. Модель распространяется по лицензии Llama 2; её использование регулируется условиями лицензии Meta Llama 2.

Это сжатая методом SNIPER версия Meta-Llama-3.1-8B-Instruct от автора репозитория parmanu-lcs2. После обрезки в модели осталось 5,287,235,584 параметра; затем веса восстановительно дообучили на 2000 примерах SlimOrca с помощью LoRA и объединили адаптер с основными весами. Модель использует плотную архитектуру Llama и предназначена для генерации текста в диалоговом формате; она может применяться для ответов на вопросы, инструкций и других текстовых запросов. В метаданных указан контекст до 131072 токенов. Модель загружается через Transformers и распространяется в формате safetensors. Лицензия в предоставленных данных не указана, поэтому условия использования следует сверить на странице репозитория. Обрезка и восстановительное дообучение могут повлиять на качество по сравнению с исходной Meta-Llama-3.1-8B-Instruct; README сообщает о настройке обучения на контексте 1024 токена.

Карточка модели ombd/llama-3.1-8b-base на Hugging Face совпадает с карточкой unsloth/Meta-Llama-3.1-8B, поэтому описание составлено по ней. Meta-Llama-3.1-8B — плотная авторегрессионная языковая модель семейства Llama, опубликованная Meta и представленная в репозитории Unsloth в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев; карточка также описывает её как основу для дообучения с помощью ноутбуков Unsloth. Модель содержит 7,5 млрд параметров, работает с текстом и поддерживает контекст длиной до 131 072 токенов. В метаданных указан английский язык. Для использования действует лицензия Llama 3.1. README не приводит результатов оценки качества или подробных ограничений применения.

Magpie-Align/Llama-3.1-8B-Magpie-Align-v0.1 — англоязычная диалоговая модель семейства Llama 3.1, разработанная командой Magpie-Align. Это плотная авторегрессионная модель с 7,5 млрд параметров и контекстом до 131 072 токенов; она принимает текст и генерирует текст, используя официальный шаблон чата Llama 3.1. Модель сначала дообучили методом SFT на наборах Magpie-Pro-MT-300K-v0.1 и Magpie-Reasoning-150K, затем применили DPO на датасете UltraFeedback ARMOR. Модель предназначена для диалогов, выполнения инструкций и рассуждений на английском языке. В карточке авторы приводят результаты на MT-Bench, Alpaca Eval 2 и Arena Hard, однако эти оценки не гарантируют качества в конкретном сценарии. Для использования весов заявлена лицензия Llama 3.1 Community License; также авторы указывают необходимость соблюдать лицензию Meta Llama 3 Community License для данных.

Llama-3.1-8B-MagPie-Ultra — плотная языковая модель с архитектурой LlamaForCausalLM, дообученная Argilla Warehouse на наборе argilla-warehouse/magpie-ultra-v1.0. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель основана на meta-llama/Llama-3.1-8B и распространяется в формате safetensors по лицензии Llama 3.1. В README приведено значение loss 0,5915 на оценочном наборе, но подробности об оценке, обучающих данных и ограничениях не раскрыты. Языки и специальные прикладные области для этой производной модели не уточнены.

Llama-3.1-Tulu-3-405B-SFT — большая плотная языковая модель с архитектурой Llama, разработанная Allen Institute for AI (AI2) и дообученная методом supervised fine-tuning на смеси общедоступных, синтетических и созданных людьми данных. Она основана на meta-llama/Llama-3.1-405B и содержит 403,7 млрд параметров; карточка указывает контекст до 131 072 токенов и библиотеку Transformers. Модель предназначена для диалогов и следования инструкциям, а также для решения задач рассуждения и ответов на вопросы, включая математические задачи и вычисления. Основной язык — английский. Веса доступны в формате PyTorch; лицензия — Llama 3.1 Community License Agreement. Модель имеет ограниченное обучение безопасности и может выдавать проблемные ответы, особенно при соответствующих запросах; фильтрация ответов не встроена. Для развёртывания требуется значительная вычислительная память из-за размера модели.

lahirum/Llama-3.2-3B-Instruct-Q4_0-GGUF — квантованная версия инструкционной языковой модели Llama 3.2 с примерно 3 млрд параметров, представленная пользователем lahirum и основанная на модели Meta. Формат GGUF и квантизация Q4_0 предназначены для запуска через совместимые инструменты, включая llama.cpp, с уменьшенными требованиями к памяти по сравнению с полноразмерными весами. Модель относится к задачам генерации текста и диалогового взаимодействия по инструкциям. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель может применяться для локальных чат-ботов, ответов на вопросы, подготовки и преобразования текста и других сценариев, где требуется компактная инструкционная LLM. Ключевыми преимуществами являются небольшой размер, возможность локального использования и более низкое потребление ресурсов благодаря Q4_0; ограничениями — возможное снижение точности из-за квантизации и меньшая производительность и полнота ответов по сравнению с более крупными моделями. Размер контекстного окна и другие параметры архитектуры в представленном README не указаны. Модель распространяется по лицензии Llama 3.2 Community License от Meta. При распространении материалов или производных продуктов требуется соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Llama» и сохранение атрибуции Meta; также необходимо соблюдать Acceptable Use Policy. Для организаций с более чем 700 млн ежемесячно активных пользователей предусмотрено отдельное лицензионное требование.

Llama-3.3-70B-Instruct-ablated-GGUF — квантизированная GGUF-версия инструкционной языковой модели Llama-3.3-70B-Instruct-ablated от NaniDAO. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и LM Studio. Модель относится к семейству Llama и содержит 70 миллиардов параметров. В README указана поддержка английского, французского, итальянского, португальского, хинди, испанского, тайского и немецкого языков. Доступны варианты квантизации от Q8_0 до Q2_K, что позволяет выбирать между качеством генерации и требованиями к памяти; наиболее качественными и рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S и ряд вариантов Q4. Все версии поставляются в формате GGUF, некоторые крупные варианты разделены на несколько файлов. Сильными сторонами являются большой размер модели, инструкционная настройка, широкий выбор уровней квантизации и пригодность для локального использования. Ограничения включают высокие требования к оперативной памяти, особенно для вариантов высокого качества, а также возможное снижение качества при использовании низкобитных квантизаций. Пометка ablated указывает на изменённую версию базовой модели, а заявленная характеристика uncensored может означать менее строгие ограничения на содержание, однако подробности изменений в README не описаны. Лицензия указана как llama3.

winglian публикует вариант Meta Llama 3 8B с контекстным окном до 1 048 576 токенов. Это авторегрессионная плотная языковая модель на архитектуре Transformer с Grouped-Query Attention, предназначенная для генерации текста и кода. Она принимает текст и может использоваться для продолжения текста, диалоговых сценариев и адаптации к различным задачам генерации естественного языка. В карточке указано семейство Llama 3, но не описаны конкретные изменения PoSE или способ обучения этого чекпойнта. Поэтому его происхождение относительно исходной модели нельзя уверенно определить. README описывает Llama 3 как модель для коммерческого и исследовательского применения на английском языке; лицензия — пользовательская коммерческая лицензия Meta Llama 3. Ограничения включают ориентацию на английский язык и необходимость отдельно настраивать меры безопасности для конкретного приложения.

QuantFactory/Llama-3-8B-Magpie-Pro-SFT-v0.1-GGUF — квантизированная версия языковой модели Llama-3-8B-Magpie-Pro-SFT-v0.1, созданная с помощью llama.cpp. Исходная модель разработана проектом Magpie-Align на базе Meta Llama 3 8B и дообучена методом supervised fine-tuning на датасете Magpie-Pro-300K-Filtered, содержащем отфильтрованные синтетические инструкции и ответы. Проект Magpie связан с исследователями Zhangchen Xu, Fengqing Jiang, Luyao Niu, Yuntian Deng, Radha Poovendran, Yejin Choi и Bill Yuchen Lin. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций и ответы на пользовательские запросы. Это авторегрессионная текстовая модель с архитектурой LlamaForCausalLM; размер базовой модели — 8 млрд параметров. В README указана длина обучающей последовательности 8192 токена, однако точный контекстный размер готовой GGUF-версии не уточнён. Поддерживается текстовая модальность, список языков не указан. Для наилучшей работы следует использовать официальный chat template Llama 3. По заявленным результатам модель достигает показателей, сопоставимых с Llama-3-8B-Instruct при использовании только SFT: Alpaca Eval 2 — 25,08 LC и 29,47 WR, Arena Hard — 18,9. Ограничения включают отсутствие подробных сведений о языковом покрытии, точном формате и уровне квантизации, а также неполное описание поведения за пределами приведённых тестов. Использование регулируется Meta Llama 3 Community License.

Карточка модели unsloth/Llama-4-Maverick-17B-128E на Hugging Face совпадает с карточкой meta-llama/Llama-4-Maverick-17B-128E, поэтому описание составлено по ней. Llama 4 Maverick — мультимодальная модель Meta для диалога и понимания изображений. Она использует авторегрессионную архитектуру mixture-of-experts с 17 млрд параметров и 128 экспертами, а также раннее объединение модальностей для работы с текстом и изображениями. В репозитории доступны веса Safetensors для Transformers. Модель предназначена для коммерческих и исследовательских сценариев: чат-помощников, визуального анализа, распознавания объектов и сцен, описания изображений и ответов на вопросы по ним. Она поддерживает арабский, английский, французский, немецкий, хинди, индонезийский, итальянский, португальский, испанский, тагальский, тайский и вьетнамский языки. Модель проверена для анализа до пяти изображений на вход. Для использования действует пользовательская Llama 4 Community License Agreement. Модель обучена на статичном офлайн-наборе данных. Возможности и качество могут различаться в зависимости от языка и сценария; для работы с большим числом изображений, чем проверенное, требуется дополнительная проверка и настройка.

LLM-jp-4-8b-thinking — плотная трансформерная языковая модель семейства Llama, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Она предназначена для диалогов и генерации текста, в том числе для многошаговых вопросов и задач на рассуждение; обучена на японском и английском языках. Модель содержит 7,8 млрд параметров по метаданным, имеет 32 слоя и контекст до 65 536 токенов. Базовое обучение охватывало 11,7 трлн токенов, а опубликованный вариант прошёл дообучение SFT и выравнивание DPO без обучения с подкреплением. Репозиторий содержит веса safetensors и использует библиотеку Transformers; шаблон чата совместим с форматом ответов OpenAI Harmony, но токенизацию следует выполнять токенизатором из репозитория. Модель подходит для японских и английских диалогов, ответов на вопросы, следования инструкциям и генерации текста. Разработчики предупреждают, что модель находится на ранней стадии исследований и разработок и не настроена для гарантированного соответствия намерениям человека и требованиям безопасности. Лицензия — Apache-2.0.

Manticore 13B — языковая модель для генерации текста и диалогового взаимодействия, разработанная Open Access AI Collective. Представлена в формате GGUF и квантизирована TheBloke для запуска с использованием llama.cpp и совместимых приложений и библиотек. Модель основана на архитектуре Llama и содержит около 13 млрд параметров. Модель предназначена для ответов на вопросы, ведения диалогов, следования инструкциям, обобщения текста и решения широкого спектра задач, отражённых в использованных наборах данных, включая MMLU, HellaSwag, ScienceQA и различные коллекции инструкций и диалогов. В README указан английский язык и шаблон запросов Vicuna. Поддерживаются варианты квантизации от 2 до 8 бит, что позволяет выбирать между требованиями к памяти, скоростью и качеством, а запуск возможен на CPU и GPU через llama.cpp, text-generation-webui, LM Studio, KoboldCpp и другие совместимые инструменты. Сильной стороной модели является возможность локального запуска и широкий выбор уровней квантизации. Ограничения включают отсутствие в предоставленных данных сведений о размере контекста, точных характеристиках качества, мультимодальности и поддерживаемых языках помимо английского; модель предназначена для работы с текстом. В метаданных указана лицензия «other», однако её конкретные условия и ограничения в README не раскрыты.

QuantFactory/Matter-0.1-7B-DPO-preview-GGUF — это GGUF-версия языковой модели Matter 7B 0.1, дообученной методом DPO на основе Mistral 7B. Исходная модель разработана 0-hero, а данная версия подготовлена QuantFactory для запуска с помощью движка llama.cpp. Обучение проводилось на наборе Matter, сформированном из более чем 35 датасетов и содержащем свыше 6 миллиардов токенов. Модель предназначена для генерации текста и ведения диалогов на английском языке, включая сценарии conversational AI. Она поддерживает формат промптов ChatML и function calling с использованием специальных токенов для начала и завершения вызова функции и её ответа. Размер модели — 7 миллиардов параметров; архитектура основана на Mistral 7B. Модель может быть удобна для локального инференса благодаря формату GGUF и совместимости с llama.cpp, однако конкретный вариант квантования, размер контекста и требования к ресурсам в README не указаны. Лицензия — Apache 2.0.

Matter-0.1-Slim-7B-C — чат-модель на архитектуре Mistral, созданная командой 0-hero путём полного дообучения Mistral 7B на версии slim-C набора данных Matter. Набор собран из более чем 35 датасетов и содержит свыше 6 млрд токенов; модель обучалась три эпохи с помощью Axolotl. Модель предназначена для диалоговой генерации текста и поддерживает интерфейс вызова функций. Для общения используется формат ChatML. Размер модели — 7,1 млрд параметров, родная длина контекста — 32 768 токенов. Доступны веса PyTorch и Safetensors; лицензия — Apache 2.0.

MeliodasPercival_01_NeuralsirkrishnaM7 — объединённая модель на базе двух моделей Mistral: automerger/MeliodasPercival_01-7B и automerger/NeuralsirkrishnaM7-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и принимает контекст длиной до 32 768 токенов. Модель предназначена для генерации текста и диалогов. Она принимает текстовые запросы и выдаёт текст; поддерживаемый язык в предоставленных данных не указан. Файлы весов опубликованы в формате safetensors. Лицензия — Apache-2.0.

mentee-embed-v4 — модель векторных представлений текста, разработанная Syed Syab Ahmad Shah и командой MenteE AI. Она предназначена для поиска по смыслу, извлечения релевантных текстов и оценки семантического сходства на английском, арабском и урду. Модель содержит 41 млн параметров и использует 12-слойный Transformer с размерностью эмбеддингов 384. Она обучена с нуля: разработчики создали BPE-токенизатор, провели предварительное обучение masked language modeling и три раунда контрастивной дистилляции с трудными негативными примерами. Контекст ограничен 512 токенами по метаданным. В репозитории указаны веса Safetensors; лицензия — Apache-2.0. Модель компактна и показала хорошие результаты на MIRACL, особенно для английского и арабского поиска; авторы также сообщают о высокой скорости инференса на RTX 5090. На их собственном тестовом наборе результаты заметно уступают более крупным моделям, арабский и урду отстают от английского; редкие письменности и диалекты могут токенизироваться хуже. Полный набор MTEB не оценивался.

Merino-Nano — компактная модель для поиска, созданная BAA AI (Black Sheep AI). Она объединяет биэнкодер для построения 384-мерных L2-нормализованных эмбеддингов и кросс-энкодер, который оценивает релевантность пары «запрос — документ» одним числом. Обе части используют общую таблицу эмбеддингов и основу MiniLM-L6-H384-uncased; всего около 34 млн параметров. Модель предназначена для двух этапов поиска в RAG-системах: сравнения запросов и документов по эмбеддингам и последующего ранжирования найденных фрагментов. В README её характеризуют как экономичную модель общего назначения для английских данных и рекомендуют для атомарных фрагментов, содержащих по одному утверждению, с возвратом родительского раздела для контекста. Заявлена сертификация 4-битной квантизации без измеримой потери качества в описанном испытании с отвлекающими документами. Репозиторий содержит веса в формате safetensors, лицензия указана как other; конкретные условия лицензии в предоставленных данных не раскрыты. Оценка Position Balance в README указывает на ограничения поиска второго факта во фрагменте, поэтому автор рекомендует делить документы на атомарные фрагменты. Модель рассчитана на английский язык.

Merlinite-7B-Lab — диалоговая языковая модель IBM Research на архитектуре Mistral, дообученная методом LAB на синтетических данных, созданных с помощью Mixtral-8x7B-Instruct. Модель насчитывает 7,1 млрд параметров, принимает текст и генерирует текст; её контекстное окно — 32 768 токенов. Основной язык — английский. Модель предназначена для диалогов и выполнения разнообразных инструкций: ответов на вопросы, рассуждений, творческого письма и задач на знания и навыки. Метод LAB использует таксономию примеров для генерации обучающих данных и поэтапное обучение с буферами повторного воспроизведения, чтобы добавлять знания и навыки к базовой модели. Модель распространяется по лицензии Apache 2.0. В README отмечено, что модель не проходила выравнивание по человеческим предпочтениям и может выдавать проблемные или вымышленные ответы. Рекомендуется использовать системный промпт, применённый при обучении; модель не следует считать единственным источником для важных решений.

unsloth/mistral-7b-bnb-4bit — это напрямую квантизированная 4-битная версия Mistral 7B, подготовленная командой Unsloth с использованием bitsandbytes. Модель предназначена для запуска и дообучения в экосистеме Transformers, в том числе в доступных GPU-средах вроде Google Colab и Kaggle. Основные сценарии использования — генерация и продолжение текста, диалоговые приложения, а также fine-tuning на собственных наборах данных. README указывает поддержку английского языка, библиотекой интеграции является Transformers. Архитектура основана на Mistral 7B, однако точные параметры контекста и другие архитектурные характеристики в карточке не приведены. Формат 4-bit уменьшает требования к памяти; для Mistral 7B заявлено снижение использования памяти примерно на 62% при дообучении с инструментами Unsloth. Сильные стороны модели — компактное 4-битное представление и ориентированность на эффективное дообучение, включая последующий экспорт в GGUF или использование с vLLM. Ограничения включают возможное снижение точности из-за квантизации, зависимость от совместимого программного окружения и отсутствие в README подробных результатов оценки качества. Модель распространяется по лицензии Apache-2.0.

mncai/mistral-7b-dpo-merge-v1.1 — объединённая инструкционная языковая модель от MindsAndCompany на базе Mistral. В карточке указано, что при создании объединены mncai/mistral-7b-dpo-v6, rwitz2/go-bruins-v2.1.1, ignos/LeoScorpius-GreenNode-Alpaca-7B-v1 и janai-hq/trinity-v1 с помощью TIES; базовая модель прошла instruction tuning и DPO. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат safetensors, а длина контекста составляет 32 768 токенов. Модель предназначена для генерации текста по инструкциям: например, для ответов на вопросы и диалоговых сценариев. Пример в карточке содержит запрос на корейском языке, но метаданные указывают английский как язык модели. Лицензия — Apache 2.0. Авторы предупреждают, что результаты на открытых лидербордах могут быть переобучены и не отражать качество на реальных задачах; они рекомендуют оценивать модель на собственных данных. В карточке также отмечено, что mncai/mistral-7b-dpo-v6 показала более слабые результаты во внутренних оценках, чем некоторые другие модели автора.

Mistral-7B-Instruct-demi-merge-v0.2-7B — плотная языковая модель на архитектуре Mistral, созданная разработчиком grimjim с помощью mergekit. Это слияние методом SLERP предварительно обученной alpindale/Mistral-7B-v0.2-hf и инструкционной mistralai/Mistral-7B-Instruct-v0.2; модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоговые ответы по инструкциям. Модель предназначена для чат-ботов, продолжения текста и экспериментов с дальнейшим слиянием или дообучением. Заявлена работа с контекстом до 32 768 токенов без скользящего окна. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0.