I.2Синтез, понимание и проверка знаний

LeoScorpius-GreenNode-Platypus-7B-v1 — текстовая генеративная модель Ignos на архитектуре Mistral, рассчитанная на диалог и задачи рассуждения. Модель получена слиянием viethq188/LeoScorpius-7B-Chat-DPO и GreenNode/GreenNodeLM-7B-v1olet, а затем дообучена на датасете garage-bAInd/Open-Platypus. В метаданных указаны 7,1 млрд параметров, контекст до 32 768 токенов и формат PyTorch. Модель предназначена для генерации ответов и улучшения результатов в задачах рассуждения и сравнительной оценки. Данных о специализированной предметной области или поддерживаемых естественных языках нет. Карточка указывает, что модель наследует ограничения базовых моделей; результаты оценки на Hugging Face ещё не опубликованы. Лицензия — Apache-2.0.

Nichonauta/LFM2.5-1.2B-Thinking-ToMoE-INT8 — 8-битная квантизованная версия экспериментальной MoE-модели рассуждений Nichonauta/LFM2.5-1.2B-Thinking-ToMoE, основанной на LiquidAI/LFM2.5-1.2B-Thinking. Репозиторий содержит реальные прореженные веса MoE в формате safetensors, а не плотный эквивалент: линейные слои MLP, внимания и свёрток используют весовую квантизацию INT8, тогда как маршрутизаторы, эмбеддинги и нормализации хранятся в fp32. Архитектура LFM2 MoE, класс Lfm2MoEForCausalLM; размер — 1,5 млрд параметров, контекст — до 128 000 токенов. Модель предназначена для генерации текста и диалогового использования, включая задачи рассуждения. В README сообщается, что показатели perplexity после квантизации INT8 близки к fp32-версии, а размер файла весов составляет около 1,38 ГБ. Для загрузки используется Transformers с пользовательским кодом модели и параметром trust_remote_code=True. Карточка указывает лицензию other, поэтому перед использованием следует проверить условия в файле LICENSE.

LFM2.5-2.6B-MLX-bf16 — экспорт модели Liquid AI LFM2.5-2.6B в формате MLX для инференса на устройствах Apple Silicon. Это плотная языковая модель с 2,6 млрд параметров и гибридной архитектурой, объединяющей свёрточные и attention-слои. Версия использует точность bf16, занимает около 5,02 ГБ и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов, включая локальный запуск на компьютерах Apple с длинными текстовыми последовательностями. Она поддерживает 17 языков, в том числе русский, английский, китайский, арабский, хинди и японский. Карточка указывает лицензию other, поэтому условия использования следует сверять с лицензией репозитория базовой модели.

Карточка модели Yukang/Llama-2-13b-chat-longlora-32k-sft на Hugging Face совпадает с карточкой Yukang/Llama-2-70b-chat-longlora-32k-sft, поэтому описание составлено по ней. Yukang выпускает эту модель как часть семейства LongAlpaca — набора моделей для следования длинным инструкциям. Это дообученная версия Llama 2 Chat с 70 млрд параметров, созданная с применением LongLoRA и SFT; автор README сообщает, что данный SFT-чекпойнт снят с поддержки. Модель предназначена для генерации текста в ответ на инструкции и запросы с длинным контекстом. В названии заявлена настройка на контекст до 32 тысяч токенов, однако метаданные указывают native context в 4096 токенов, поэтому поддержку более длинного контекста следует считать ограниченной или требующей отдельной настройки. Доступен формат PyTorch; основным языком в предоставленных данных не обозначен. Модель основана на Llama 2 Chat и предназначена для экспериментального применения в сценариях диалогового следования инструкциям. Лицензия в предоставленных данных не указана.

upstage/llama-30b-instruct — англоязычная инструктивная модель Upstage на архитектуре LLaMA с 32,3 млрд параметров. Это версия для генерации текста и следования инструкциям; карточка описывает варианты модели с контекстом 1024 и 2048 токенов, а метаданные этой версии указывают окно в 2048 токенов. Для диалога используется шаблон с ролями System, User и Assistant. Модель дообучена на OpenBookQA, SciQ, Open-Orca, ScienceQA и LIMA; в карточке приведены результаты оценки на ARC-Challenge, HellaSwag, MMLU, TruthfulQA и MT-bench. Модель предназначена для ответов на вопросы, диалогов и других задач генерации текста по инструкциям на английском языке. Карточка отмечает, что благодаря rope_scaling модель может принимать более длинный ввод, однако метаданные указывают нативный контекст 2048 токенов, поэтому расширенный контекст требует соответствующей настройки. Репозиторий содержит веса в формате PyTorch и предназначен для пользователей, которым уже предоставлен доступ к исходным весам и которым нужна версия для Transformers. Действует специальная лицензия без коммерческого использования, регулируемая лицензией Meta; перед применением необходимо иметь разрешённый доступ к модели.

RedHatAI/Llama-3.1-8B-tldr — текстовая авторегрессионная модель Red Hat (Neural Magic), дообученная на базе meta-llama/Llama-3.1-8B на наборе trl-lib/tldr. Она предназначена для краткого пересказа текстов в стиле публикаций Reddit и принимает текст, выдавая текст. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. В README указано, что на тестовой части trl-lib/tldr модель получила BERTScore 0,366. Её можно развернуть с помощью vLLM. Модель распространяется по лицензии Llama 3.1 Community License; применяются ограничения её Acceptable Use Policy.

jiangfb/llama-3.1-chinese-8b-it-dpo — чат-модель на архитектуре Llama 3.1, созданная на основе Meta-Llama-3.1-8B-Instruct. Разработчики дообучили её на китайских инструкциях примерно в два этапа: supervised fine-tuning на почти 300 тысячах примеров и Direct Preference Optimization на 5 тысячах инструкций с предпочтениями. Репозиторий содержит веса в формате safetensors; размер модели — около 7,5 млрд параметров, заявленная длина контекста — 131 072 токена. Модель предназначена для диалога и генерации текста на китайском языке: она может отвечать на вопросы, выполнять инструкции и составлять краткие изложения. В README приведены результаты на китайских тестах C-Eval и CMMLU, где авторы сообщают об улучшении относительно исходной Llama 3.1. Это результаты авторской оценки; они не гарантируют качество на других задачах. В метаданных лицензия не указана, поэтому условия использования следует сверить с карточкой модели и лицензией базовой модели.

unsloth/Llama-3.2-1B-Instruct-bnb-4bit — 4-битная версия instruction-tuned языковой модели Llama 3.2-1B-Instruct, распространяемая Unsloth на основе модели Meta. Это авторегрессионная модель с оптимизированной архитектурой Transformer и Grouped-Query Attention (GQA), предназначенная для генерации текста и диалоговых сценариев. Модель ориентирована на мультиязычный диалог, включая задачи суммаризации и agentic retrieval. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель работает только с текстом: принимает текстовые входные данные и генерирует текст. Размер составляет 1 млрд параметров; README не содержит данных о размере контекстного окна. Instruction-tuned версия обучалась с применением supervised fine-tuning (SFT) и reinforcement learning with human feedback (RLHF) для повышения полезности и безопасности. Ключевое преимущество варианта — 4-битное квантование, снижающее требования к памяти и подходящее для более экономичного запуска и дообучения. Ограничения включают меньший размер и, потенциально, более узкие возможности по сравнению с крупными моделями семейства, а также зависимость качества от поддерживаемого языка и сценария. Модель статична и обучена на офлайн-датасете, поэтому не обладает актуальными знаниями без внешних источников. Использование регулируется пользовательской лицензией Llama 3.2 Community License, являющейся специальной коммерческой лицензией Meta.

ferrazzipietro/Llama-3.2-1B-Instruct-cpt-tesi_all — дообученная модель на архитектуре Llama, созданная на основе meta-llama/Llama-3.2-1B-Instruct. Она предназначена для генерации текста и диалогового взаимодействия. Модель содержит 1,2 млрд параметров, использует формат safetensors и библиотеку Transformers; заявленная длина контекста — 131 072 токена. Базовая модель Meta поддерживает несколько языков и подходит для диалогов, поиска сведений, суммаризации и помощи в написании текста. Данные о специфических задачах этого дообучения, его обучающем наборе и результатах оценки не приведены, поэтому качество в отдельных сценариях оценить нельзя. Модель распространяется по лицензии Llama 3.2; перед применением следует учитывать её условия.

KAI — модель для диалогов на основе архитектуры Llama 3.2, разработанная KILM AI Lab. Она дообучена на meta-llama/Llama-3.2-3B-Instruct и предназначена прежде всего для понимания и генерации текста на вьетнамском языке: ответов на вопросы, чтения с пониманием, извлечения информации и суммаризации. Модель содержит 3,2 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; для работы указана библиотека Transformers. Нативное окно контекста — 131 072 токена. В README приведены результаты оценки на вьетнамских наборах VMLU, ViSquad, ViDrop и ViDialog. Модель может галлюцинировать при работе с культурно-специфичными сведениями и хуже справляться со специализированными техническими областями. Лицензия указана как other, поэтому условия использования следует сверить с карточкой модели и лицензией базовой модели.

mkurman/llama-3.2-MEDIT-3B-o1 — компактная языковая модель, созданная дообучением MedIT Solutions Llama 3.2 3B Instruct, основанной на Meta Llama 3.2 3B Instruct. Она использует плотную архитектуру LlamaForCausalLM и содержит 3,2 млрд параметров. Модель предназначена для генерации текста в формате инструкций, ответов на вопросы и задач рассуждения в стиле o1; в README описаны специальные теги для отделения рассуждений от итогового ответа. Модель поддерживает текстовый ввод и генерацию текста, а её контекстное окно составляет 131 072 токена. В метаданных указан английский язык. Доступны веса в форматах Safetensors и GGUF; лицензия — llama3.2. Для более стабильного точного совпадения автор рекомендует отключать сэмплирование или использовать температуру 0.0. При генерации следует настроить стоп-последовательности, иначе модель может продолжать вывод служебных тегов. Ответы могут содержать фактические ошибки и предвзятости; медицинские выводы требуют проверки специалистом.

VictorDCh/Llama-3-8B-Instruct-MoE-2 — разговорная языковая модель на архитектуре Mixture of Experts (MoE), созданная из meta-llama/Meta-Llama-3-8B-Instruct. В конфигурации указаны два эксперта на токен, сформированные из одной базовой модели и ориентированные на разные типы вопросов, включая сравнения, вопросы с вопросительными словами и количественные рассуждения. Модель предназначена для генерации текста в диалоговом формате и ответов на запросы. Она содержит 7,5 млрд параметров, рассчитана на контекст до 8192 токенов и представлена в формате safetensors для библиотеки Transformers. README не содержит сведений о разработчике, лицензии или оценке качества, поэтому условия распространения и сравнительные преимущества по имеющимся данным определить нельзя.

Llama-3-Alpha-Centauri-v0.1 — экспериментальная чат-модель семейства Llama 3, созданная автором серии Centaurus на основе дообучения и слияния моделей. Она предназначена для генерации ответов, рассуждений и анализа, в том числе по темам STEM, компьютерных наук, программирования и социальных наук. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст длиной до 8192 токенов. В карточке указана цель создать менее цензурированную модель; среди упомянутых возможностей — логическая дедукция, критическое мышление и анализ. В метаданных отмечен набор NobodyExistsOnTheInternet/ToxicQAFinal. README сообщает о настройках LoRA и 4-битного обучения, но не уточняет базовый репозиторий, а поля базовой модели в метаданных нет. Автор описывает модель как экспериментальную и предупреждает, что эффективность может меняться. Модель может выдавать токсичные или нежелательные ответы; пользователь отвечает за их интерпретацию и применение. Лицензия — llama3.

llama-3-stinky-v2-8B — чат-модель на архитектуре Llama, созданная nbeerbower с помощью mergekit. Это слияние предварительно обученных языковых моделей методом Model Stock; базовой моделью слияния была flammenai/Mahou-1.1-llama3-8B, также использованы модели для инструкций, диалога и ответов на вопросы. Модель предназначена для генерации текста и диалоговых сценариев: ответов на вопросы, следования инструкциям и рассуждений. Она содержит 7,5 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. Карточка приводит результаты Open LLM Leaderboard, включая средний балл 70,27, но не описывает отдельные специализации или языковое покрытие итоговой модели. Модель распространяется в формате safetensors по лицензии other; конкретные условия лицензии в предоставленных данных не раскрыты. Результаты бенчмарков не гарантируют качество для конкретных прикладных задач.

llm-jp-3-13b-instruct — инструкция-настроенная языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии; разработка частично поддержана GENIAC. Это плотная Transformer-модель семейства Llama с архитектурой LlamaForCausalLM, примерно 13,2 млрд параметров и контекстом 4096 токенов. Модель обучалась на смеси данных, включающей японские источники, а затем дообучалась на наборах инструкций, в том числе вручную составленных японских инструкциях. Модель предназначена для диалогов и выполнения инструкций: она может отвечать на вопросы, помогать с письмом, рассуждениями, извлечением информации и задачами на японском языке. В README приведена оценка Japanese MT Bench для версии 13B instruct; это ориентир по набору тестов, а не гарантия качества в конкретном применении. Метаданные также указывают английский и японский языки. Разработчики предупреждают, что модель находится на раннем этапе исследований и разработок и не настроена для надёжного соответствия намерениям человека и требованиям безопасности. Для распространения указана лицензия Apache-2.0.

llm-jp-3-3.7b-instruct2 — языковая модель семейства LLM-jp-3, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это плотный авторегрессионный трансформер на архитектуре Llama с примерно 3,5 млрд параметров, дообученный на инструкциях методом supervised fine-tuning. Модель принимает текст и предназначена для диалогов и выполнения инструкций, прежде всего на японском и английском языках. Предварительное обучение серии проводилось на смеси данных общим объёмом 2,1 трлн токенов; контекст модели составляет 4096 токенов. Карточка описывает набор инструкционных данных на японском языке, включая материалы по безопасным ответам. Модель распространяется в формате Transformers и Safetensors по лицензии Apache-2.0. Разработчики характеризуют выпущенные модели как ранние этапы исследований и разработок: их ответы ещё не настроены для надёжного соответствия человеческим намерениям и требованиям безопасности. Результаты могут быть ошибочными или небезопасными, поэтому важные ответы требуют проверки.

llm-jp-3-8x1.8b-instruct3 — японская инструктивная языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Она предназначена для диалогов и выполнения инструкций: например, для ответов на вопросы, генерации и преобразования текста. Модель основана на архитектуре Transformer с разреженной смесью экспертов Mixtral: 24 слоя, 8 экспертов, из которых активируются 2. В карточке Hugging Face указано 1,7 млрд параметров; README приводит 9,27 млрд общих параметров и около 2,92 млрд активируемых параметров. Контекст — 4096 токенов. Предварительное обучение охватило 2,1 трлн токенов, а после него модель прошла supervised fine-tuning и выравнивание методом Direct Preference Optimization. Основной язык — японский; метаданные также отмечают английский. Модель распространяется в формате safetensors для Transformers по лицензии Apache-2.0. Авторы предупреждают, что модель находится на ранней стадии исследований и разработок и недостаточно настроена для гарантированного соответствия намерениям пользователей и требованиям безопасности.

ccdv/lsg-bart-base-16384-pubmed — модель семейства BART, дообученная авторами репозитория на датасете PubMed из набора scientific_papers для суммаризации научных публикаций. Она использует механизм Local-Sparse-Global attention и рассчитана на входные последовательности длиной до 16 384 токенов; в README приведены результаты на тестовой выборке PubMed. Метаданные указывают 95,2 млн параметров, тогда как README сообщает примерно о 145 млн параметров, поэтому размер модели в источниках расходится. Модель принимает текст статьи и генерирует текстовое резюме. README указывает на дообучение в течение одной эпохи и требует Transformers версии не ниже 4.36.1 и загрузки пользовательского кода модели с параметром trust_remote_code=True. Лицензия в предоставленных данных не указана.

LWM-Text-Chat-256K — открытая авторегрессионная языковая модель семейства LLaMA, дообученная на базе LLaMA 2 на отфильтрованной подвыборке Books3. Это трансформер с примерно 6,6 млрд параметров, рассчитанный на генерацию текста и длинный контекст до 262 144 токенов. Модель предназначена для генерации и продолжения текста, в том числе с длинными входными документами. В обучающую выборку вошли 37 тысяч документов Books3 длиной от 200 до 500 тысяч токенов. README не описывает отдельные языки или специализированные сценарии общения; применимость к ним не следует считать подтверждённой. Репозиторий содержит веса PyTorch. Модель разработана LargeWorldModel и основана на LLaMA 2. Условия лицензирования в предоставленных материалах не приведены.

M7Yamshadowexperiment28_Inex12Experiment26 — объединённая языковая модель на архитектуре Mistral, созданная путём слияния automerger/M7Yamshadowexperiment28-7B и automerger/Inex12Experiment26-7B. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает специализацию по языкам или предметным областям; модель можно рассматривать для общих задач генерации текста.

M7Yamshadowexperiment28_MeliodasNeuralsirkrishna — объединённая модель Mistral с 7,1 млрд параметров, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/MeliodasNeuralsirkrishna-7B. Веса объединены методом SLERP; модель предназначена для генерации текста и диалогов с контекстом до 32 768 токенов. Модель принимает текст и выдаёт текст. В карточке не заявлены специализированные области применения или конкретные языки. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. README не описывает результаты оценки качества или отдельные ограничения модели.

M7Yamshadowexperiment28_PasticheNeuralsirkrishna — объединённая языковая модель семейства Mistral, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/PasticheNeuralsirkrishna-7B. Веса содержат 7,1 млрд параметров и опубликованы в формате Safetensors. Модель предназначена для генерации текста и диалогов. Она принимает текстовые запросы и поддерживает контекст до 32 768 токенов, что позволяет использовать её для продолжения текста и ответов на длинные запросы. Данных о специализации на конкретном языке или предметной области в карточке нет. Модель распространяется по лицензии Apache-2.0. Оценки качества и сведения о дополнительных возможностях в карточке не приведены.

Magnum v2 32B — диалоговая модель Anthracite, созданная для воспроизведения качества прозы Claude 3 Sonnet и Opus. Она дообучена на Qwen1.5-32B с полным обновлением параметров и настроена на инструкции в формате ChatML. Модель предназначена для диалога, генерации связного текста и ответов на инструкции. В обучении использовались отфильтрованные наборы данных для диалогов, прозы и рассуждений; README указывает два эпоха обучения на восьми ускорителях NVIDIA H100. Архитектура — плотная Qwen2, размер — 31,7 млрд параметров, контекст — до 32 768 токенов. Метаданные указывают поддержку английского и китайского языков. Модель распространяется в формате safetensors по лицензии other; конкретные условия этой лицензии следует проверить на странице репозитория. Оценка в карточке позиционируется как попытка приблизить качество прозы Claude 3, но независимых сравнительных результатов README не приводит.

Arx12/Maple-Preview-Exact-GGUF — это сторонний набор GGUF-репаков модели Maple-Preview, разработанной DeepGrove. Репаки подготовлены и проверены Arx12 на основе официальных файлов DeepGrove; данный репозиторий не является официальным релизом DeepGrove. Модель предназначена для генерации текста и задач, требующих рассуждений, с акцентом на соотношение качества, скорости и потребления памяти. Агентные сценарии и широкое постобучение пока ограничены по сравнению с планируемой полной версией Maple. Maple-Preview представляет собой reasoning-модель с архитектурой Mixture-of-Experts: 20 млрд общих параметров, около 1 млрд активных параметров на токен, 24 трансформерных слоя, 256 экспертов и 8 активных экспертов на токен. Используется ternary-weight дизайн и конфигурация внимания 3:1 SWA-512:GA, объединяющая скользящее и глобальное внимание. Контекст — до 131 072 токенов, заявленный язык — английский. Доступны варианты с точным репаком матриц TQ2_0 в Q4_0 или Q8_0, а также F16-представление; для некоторых вариантов LM head квантуется отдельно, поэтому полная побитовая идентичность вывода между форматами не гарантируется. Сильной стороной является сохранение представленных значений исходных матриц при репаках Q4_0 и Q8_0, подтверждённое проверкой всех 168 исходных TQ2_0 матриц, а также возможность работы с очень длинным контекстом и сравнительно небольшим числом активных параметров. Ограничения включают preview-статус, возможное отставание в агентных задачах и то, что exact-репак не восстанавливает точность, утраченную до исходного квантования; различия в вычислительных ядрах могут менять логиты и текст. Модель и производные репаки распространяются по лицензии MIT.

Matter-0.1-7B-dare — языковая модель на архитектуре Mistral, созданная объединением моделей 0-hero/Matter-0.1-7B-boost и 0-hero/Matter-0.1-7B с помощью mergekit и метода dare_ties. В конфигурации также указана mistralai/Mistral-7B-v0.1 как базовая модель; объединение использует плотность 0,53, веса 0,5 для каждой из двух моделей и формат bfloat16. Модель предназначена для генерации текста. Она содержит 7,1 млрд параметров, принимает текст и выдаёт текст, а заявленный контекст составляет 32 768 токенов. Карточка не описывает специальные сценарии применения или языки. Модель распространяется под лицензией Apache-2.0. Специализированные возможности и ограничения качества в карточке не описаны.

cgteen/mindspark-bot-v1-full — дообученная модель генерации текста на архитектуре Mistral, разработанная cgteen на основе unsloth/mistral-7b-v0.3-bnb-4bit. Модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. В карточке указано, что модель обучали с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста; конкретные предметные сценарии и специализированные возможности в карточке не описаны. Указанная лицензия — Apache-2.0.

MiniMax-M2.7-JANG_2L — квантованная версия MiniMax-M2.7, подготовленная Jinho Jang для запуска на компьютерах Apple Silicon через MLX и vMLX. Это диалоговая MoE-модель для генерации текста; в README указаны 228,7 млрд общих параметров и смешанная точность около 2,10 бита. Для внимания и выходного слоя сохранена точность 8 бит, для эмбеддингов — 6 бит, а большая часть экспертных MLP сжата до 2 бит; маршрутизатор экспертов оставлен в float16. Метаданные каталога указывают 2,9 млрд параметров, что расходится с размером, заявленным в README. Модель предназначена для диалогов и задач рассуждения, а также может использовать вызов инструментов в совместимых клиентах. Контекстное окно — 196 608 токенов. Для запуска требуются MLX и Mac с Apple Silicon и не менее 96 ГБ объединённой памяти; автор рекомендует MLX Studio. В README указано, что температура 1,0 обязательна, поскольку жадная генерация может зациклить рассуждения. Бенчмарки M2.7 ещё не опубликованы, а заявление о превосходстве JANG над обычной квантизацией MLX основано на результатах для M2.5. Лицензия в метаданных обозначена как other; README разрешает исследовательское и личное использование и возлагает ответственность за соблюдение лицензии MiniMax на пользователя.

Ministral-3-14B-Reasoning-2512-Uncensored-i1-GGUF — квантизированная версия модели Ministral-3-14B-Reasoning-2512-Uncensored. Базовую модель разработал ccharnkij, а квантизацию выполнил mradermacher. Модель распространяется в формате GGUF и предназначена для локального запуска с использованием совместимых инструментов. Модель рассчитана на генерацию текста и задачи рассуждения, а также поддерживает обработку изображений вместе с текстом. Заявлены размер 14B параметров, мультимодальность и поддержка английского языка. В репозитории представлены варианты квантизации i1-IQ и i1-Q с размером файлов примерно от 3,4 до 8,3 ГБ; варианты различаются компромиссом между требованиями к памяти, скоростью и качеством. Для vision-функций могут потребоваться отдельные mmproj-файлы из статического репозитория. Сильными сторонами являются локальный запуск, широкий выбор уровней квантизации и сочетание текстовых, визуальных и reasoning-сценариев. Ограничения включают возможное снижение качества при агрессивной квантизации, неизвестные в README размер контекста и архитектурные детали, а также отсутствие заявленных языков помимо английского. Модель распространяется по лицензии Apache-2.0.

mistral-7b-slimorcaboros-Mistral-7B-Instruct-v0.1 — чат-модель, созданная MaziyarPanahi слиянием Mistral-7B-Instruct-v0.1 и mistral-7b-slimorcaboros методом SLERP. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в диалоговом формате. Модель поддерживает контекст длиной до 32 768 токенов и рассчитана на англоязычные запросы. Её можно использовать для диалогов, ответов на вопросы и выполнения текстовых инструкций. Весовые файлы опубликованы в формате Safetensors. Модель распространяется по лицензии Apache-2.0. Качество и поведение унаследованы от объединённых моделей; карточка не приводит результатов оценки этой конкретной версии.

vikash06/mistral_v1 — текстовая генеративная модель семейства Mistral, представленная автором как модель для непосредственного использования. В README указано, что её экспериментально обучали на небольшом наборе данных, чтобы оценить влияние более длительного обучения на качество. В метаданных указаны 7,1 млрд параметров, архитектура MistralForCausalLM, контекст 32 768 токенов и формат safetensors. Модель предназначена для генерации текста по инструкциям, включая творческое письмо, ответы на вопросы по предоставленному фрагменту и общим знаниям, суммаризацию, извлечение информации и классификацию. README сообщает о 1000 примерах для каждой категории и приводит результаты оценки на HellaSwag и AI2 Reasoning Challenge, но подробный технический отчёт обещан позднее. Автор README описывает модель как дообученную на базе Llama 2, однако метаданные указывают архитектуру Mistral; точная связь с базовой моделью требует осторожной интерпретации. Модель распространяется по лицензии MIT. Обучение на небольшом экспериментальном наборе ограничивает основания ожидать стабильного качества на широком круге задач; подробностей о языках обучения и оценке в карточке нет.