I.14Автоматизация процессов и AI-агенты

GPT4 x Alpaca — языковая модель семейства LLaMA, разработанная maicomputer. Модель содержит 12,9 млрд параметров и дообучена в течение трёх эпох на ответах GPT-4; в качестве базовой модели использована Alpaca-13B. Она предназначена для генерации текста и диалоговых ответов. В карточке приведены результаты оценки на ARC и HellaSwag.

manojpreveen/gpt-neoxt-20b-v13 — дообученная модель генерации текста на архитектуре GPT-NeoX, созданная на базе togethercomputer/GPT-NeoXT-Chat-Base-20B. Автор сообщает, что модель обучена на наборе Instruction Tuning объёмом около 5,2 млн примеров с использованием Colossal-AI; также в метаданных указан набор Conversational Data. Размер модели — 26,9 млрд параметров, нативный контекст — 2048 токенов. Модель предназначена для генерации ответов на инструкции и диалоговых запросов. В карточке описано обучение в течение пяти эпох на восьми GPU A100 с размером блока 2020 токенов. Лицензия — BigScience OpenRAIL-M.

Hercules-5.0-Qwen2-7B-GGUF — это GGUF-квантизированная версия языковой модели Locutusque/Hercules-5.0-Qwen2-7B, подготовленная пользователем bartowski с использованием llama.cpp и калибровочного набора данных imatrix. Модель предназначена для генерации текста и локального запуска в совместимых приложениях на базе llama.cpp и других инструментов, поддерживающих формат GGUF. В README указан шаблон диалога с системными и пользовательскими сообщениями в формате ChatML. Модель относится к семейству Qwen2 и имеет размер 7B параметров; она работает с текстовой модальностью. Доступны варианты от F32 до низкобитных Q2–Q8, включая Q4_K_M как компромисс между размером и качеством, а также варианты Q5 и Q6 с более высоким качеством. Квантизация позволяет снизить требования к памяти, но по сравнению с полной точностью может ухудшать качество, особенно в младших вариантах. Языки, размер контекстного окна, результаты оценивания и специализированные сценарии применения в README не указаны. Распространение заявлено по лицензии Apache-2.0.

DevQuasar-7/huihui-ai.DeepSeek-R1-Distill-Qwen-14B-abliterated-v2-GGUF — это квантованная версия модели huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2, подготовленная в формате GGUF командой или проектом DevQuasar. Модель предназначена для генерации текста и может использоваться в сценариях локального запуска и инференса с совместимыми инструментами, поддерживающими GGUF. Из карточки следует, что её базовая модель относится к семейству DeepSeek-R1-Distill-Qwen и имеет размер 14B параметров; точный тип квантования не указан. Ключевая заявленная модальность — текстовая генерация. Сведения о поддерживаемых языках, размере контекстного окна, конкретной архитектуре, требованиях к оборудованию и результатах оценки отсутствуют. К потенциальным ограничениям относятся зависимость качества и скорости от выбранного варианта квантования и программного окружения, а также отсутствие в карточке описания сильных сторон, бенчмарков и рекомендаций по применению. Лицензия и условия использования в README не указаны.

Inex12T3qm7xp-7B — автоматически объединённая языковая модель, созданная Maxime Labonne на основе MSL7/INEX12-7b и nlpguy/T3QM7XP. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и предназначена для генерации текста и диалоговых ответов; заявленная длина контекста составляет до 32 768 токенов. Для объединения использован метод DARE-TIES с плотностью 0,53 и весом 0,6 для nlpguy/T3QM7XP; веса представлены в формате safetensors. Модель принимает текст и генерирует текст. Лицензия — Apache-2.0. Карточка не приводит оценок качества или результатов тестирования.

inf-o1-pi0-GGUF — это квантизированная версия модели infly/inf-o1-pi0, подготовленная пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. В README не указано, кто разработал исходную модель, кроме идентификатора организации infly. Доступны варианты от BF16 до низкобитных форматов Q8_0, Q6, Q5, Q4, Q3 и Q2, с размером файлов примерно от 12,31 до 65,54 ГБ. Указана поддержка китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Конкретные архитектура, число параметров, размер контекста и дополнительные модальности в README не раскрыты, поэтому модель следует рассматривать как текстовую. Сильная сторона набора — широкий выбор квантизаций, позволяющий подобрать баланс между качеством, требованиями к памяти и скоростью локального вывода; варианты Q6_K_L, Q6_K, Q5 и Q4 отмечены как рекомендуемые, а Q4_K_M описан как стандартный вариант для большинства сценариев. Более сильное сжатие уменьшает требования к ресурсам, но снижает качество, особенно у вариантов Q2 и Q3. Лицензия исходной модели и условия коммерческого использования в README не указаны.

InternLM2-1.8B — базовая плотная авторегрессионная языковая модель второго поколения семейства InternLM, разработанная командой InternLM. Она содержит около 1,7 млрд параметров и предназначена для генерации текста и последующей адаптации под прикладные задачи. В README также описаны отдельные варианты Chat и Chat-SFT, однако этот репозиторий содержит базовую модель. Модель подходит для продолжения текста, а также для экспериментов с рассуждениями, математикой, кодом и обработкой длинных текстов. Метаданные указывают контекст до 32 768 токенов; в карточке семейства InternLM2 заявлена работа с длинными входами до 200 000 символов. Эти сведения относятся к разным формулировкам длины контекста и не гарантируют одинакового качества на любом длинном тексте. Модель принимает и генерирует текст; в карточке приведены оценки на MMLU, AGIEval и BBH. Лицензия репозитория указана как other: код распространяется по Apache-2.0, веса открыты для академических исследований, а для коммерческого использования требуется запросить бесплатное разрешение. Возможны предвзятые или иные нежелательные ответы; характеристики чата и следования инструкциям, отмеченные в README, относятся прежде всего к отдельным Chat-вариантам.

Kepler-8B-Instruct-v2 — разговорная языковая модель intellectlabs, представленная в репозитории в формате GGUF для запуска через llama.cpp и совместимые приложения. Согласно карточке, исходная модель получена слиянием Qwen/Qwen2.5-7B-Instruct (85%) и DeepSeek-R1-Distill-Qwen-7B (15%); доступны варианты квантования от Q2_K до F16. Модель содержит около 7,1 млрд параметров, использует плотную архитектуру Qwen2 и поддерживает контекст до 32 768 токенов. Модель предназначена для диалога и следования инструкциям: её можно применять для ответов на вопросы, объяснений и других текстовых задач в чат-интерфейсах, включая LM Studio, Ollama и llama.cpp. Карточка заявляет поддержку ChatML и ответы на разных языках, а метаданные указывают английский. Лицензия — Apache 2.0. Это слияние моделей, а опубликованные GGUF-файлы включают квантованные варианты. README сообщает, что модель не оценивалась на стандартных бенчмарках; сжатие до низкой разрядности снижает качество и повышает нестабильность ответов. Как и другие языковые модели, она может выдавать неточные сведения и унаследовать особенности или смещения исходных моделей.

RemySkye/LFM2.5-8B-A1B-i1-GGUF — набор квантизированных версий языковой модели LiquidAI/LFM2.5-8B-A1B в формате GGUF. Модель предназначена для генерации текста и локального запуска с использованием совместимых инструментов, включая llama.cpp, что делает её подходящей для периферийных и ресурсно-ограниченных сценариев. Размер исходной модели — 8B параметров с архитектурой, обозначенной как A1B; конкретные архитектурные характеристики, размер контекста и поддерживаемые модальности в README не указаны. Заявлена поддержка английского, арабского, китайского, французского, немецкого, японского, корейского, испанского и португальского языков. Квантизация выполнена с использованием importance matrix (imatrix); варианты с точностью ниже 4 бит могут приводить к неприемлемому снижению качества. Для работы рекомендуется актуальная версия llama.cpp. Лицензия указана как lfm1.0, при этом её подробные условия в README не приведены. Модель разработана LiquidAI, а данный репозиторий содержит квантизированные сборки, подготовленные RemySkye.

win10/llama3-13.45b-Instruct — объединённая плотная языковая модель семейства Llama 3 для генерации текста и диалогов. В README указано, что модель создана с помощью mergekit методом passthrough; метаданные связывают её с Meta-Llama-3-8B-Instruct. Размер модели — 12,7 млрд параметров, архитектура — LlamaForCausalLM, максимальный контекст — 8192 токена. Карточка указывает поддержку английского языка и диалоговый сценарий. Модель распространяется по лицензии Llama 3; перед использованием следует учитывать её условия.

unsloth/Llama-3.2-11B-Vision-Instruct-unsloth-bnb-4bit — это мультимодальная instruction-tuned модель на базе Meta Llama 3.2 11B Vision Instruct, подготовленная Unsloth. Она предназначена для диалоговых сценариев и задач, требующих обработки текста и изображений, включая визуальный анализ, ответы на вопросы по изображениям, суммирование и другие приложения с мультимодальным вводом. Модель рассчитана на использование с библиотекой Transformers и 4-битным квантованием bitsandbytes (BnB). Unsloth применяет динамическое 4-битное квантование, при котором отдельные параметры не квантуются для сохранения качества при близком к обычному BnB 4-bit потреблении видеопамяти. Архитектура основана на оптимизированном авторегрессионном Transformer; для семейства Llama 3.2 указано использование Grouped-Query Attention (GQA). Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Размер модели — 11 млрд параметров; точное максимальное окно контекста в предоставленных данных не указано. К сильным сторонам относятся мультимодальные возможности и сниженные требования к памяти благодаря квантованию, что упрощает локальный запуск и дообучение. Ограничения связаны с возможной потерей качества из-за квантования, зависимостью от совместимого программного и аппаратного окружения, а также тем, что конкретные показатели качества и полный перечень ограничений модели в карточке не приведены. Базовая модель разработана Meta, а данная квантованная версия опубликована Unsloth. Использование регулируется Llama 3.2 Community License и Acceptable Use Policy; перед развертыванием необходимо соблюдать их условия. Модель является статической и обучена на офлайн-данных.

RedHatAI/Llama-3.2-1B-Instruct-FP8-dynamic — квантизированная версия Meta Llama 3.2 1B Instruct, разработанная Neural Magic. Это текстовая autoregressive-модель для генерации текста и диалоговых сценариев в формате ассистента, включая коммерческое и исследовательское использование. В README заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков, однако отдельно указано ограничение на использование языков, отличных от английского. Модель использует архитектуру Meta-Llama-3.2 и принимает текст на входе, возвращая текст. Веса и активации линейных операторов внутри transformer-блоков квантизированы в FP8; для весов применяется симметричная поканальная квантизация, а активации квантизуются динамически на уровне токенов. По сравнению с 16-битным представлением это примерно вдвое снижает требования к дисковому пространству и памяти GPU. Модель предназначена для эффективного инференса с vLLM и может предоставляться через OpenAI-совместимый интерфейс. Ключевое преимущество — снижение потребления ресурсов при сохранении близкого к исходной модели качества: средний результат на указанной подвыборке OpenLLM Leaderboard составляет 50,88 против 51,70 у неквантизированной версии. Ограничение — небольшая потеря точности после квантизации, а также необходимость совместимого окружения vLLM. Модель выпущена 25 сентября 2024 года, версия 1.0, и распространяется по лицензии llama3.2.

lainshower/Llama3-8b-alpaca — дообученная в режиме полного fine-tuning модель Llama 3, созданная на основе Llama 3 8B с использованием инструкционных данных Stanford Alpaca. Это плотная авторегрессионная языковая модель с 7,5 млрд параметров и контекстом до 8192 токенов; веса опубликованы в формате safetensors. Модель предназначена для генерации ответов на инструкции и запросы с дополнительным контекстом. В README приведён шаблон диалога Alpaca и пример ответа на вопрос с выбором варианта; заявлено обучение в течение одной эпохи в BF16, поскольку более длительное обучение приводило к переобучению. Для инференса автор рекомендует Float32. Карточка не указывает лицензию, поэтому условия использования определить нельзя.

MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.2 — диалоговая языковая модель, созданная MaziyarPanahi методом DPO дообучения Meta Llama 3 8B Instruct. Модель использует архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Она принимает текстовые сообщения в шаблоне ChatML и генерирует текстовые ответы.

Maziyar Panahi разработал Llama-3-8B-Instruct-v0.10 на основе своей предыдущей инструкционной модели MaziyarPanahi/Llama-3-8B-Instruct-v0.9. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров для генерации текста и диалогового взаимодействия; она поддерживает шаблон запросов ChatML и рассчитана на контекст до 8192 токенов. Модель подходит для ответов на запросы, ведения диалога и генерации текста на английском языке. В карточке приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH. Для работы доступны веса Safetensors и библиотека Transformers; автор также указывает на отдельную версию в формате GGUF. Лицензия обозначена как other, поэтому условия использования следует уточнить в репозитории модели.

Карточка модели KnutJaegersberg/Llama-3-Deita-8b на Hugging Face совпадает с карточкой KnutJaegersberg/Deita-34b, поэтому описание составлено по ней. KnutJaegersberg/Deita-34b — языковая модель для генерации текста, построенная на архитектуре Llama с плотной схемой и 33,9 млрд параметров. Модель рассчитана на инструкции и диалоговые запросы; в README приведён пример ответа на вопрос о тонкой настройке языковой модели. Контекстное окно составляет 4096 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. В метаданных указан датасет KnutJaegersberg/Deita-6k; они не уточняют связь модели с базовым чекпойнтом или способ её обучения.

Llama-3-Yggdrasil-2.0-8B-GGUF — это набор GGUF-квантизаций языковой модели Llama-3-Yggdrasil-2.0-8B, опубликованный bartowski. Исходная модель разработана на основе объединения нескольких моделей семейства Llama 3: Locutusque/Llama-3-NeuralHercules-5.0-8B, NousResearch/Meta-Llama-3-8B, NousResearch/Hermes-2-Theta-Llama-3-8B и Locutusque/llama-3-neural-chat-v2.2-8b. Квантизация выполнена с помощью llama.cpp версии b3086 и метода imatrix. Модель предназначена для генерации текста и локального запуска через совместимые инструменты llama.cpp и другие приложения, поддерживающие формат GGUF. Доступны варианты с разным уровнем квантизации — от Q8_0 до Q2_K и IQ2_XS — размером примерно от 2,60 до 8,54 ГБ. Более качественными считаются Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS; варианты с меньшим размером требуют меньше оперативной памяти, но могут заметно уступать по качеству. Это текстовая модель с примерно 8 млрд параметров. README не указывает поддерживаемые языки, размер контекстного окна, результаты тестирования и точные сильные стороны исходной модели. Шаблон чата также не задан однозначно: в карточке приведён предполагаемый формат, который может быть некорректным, поэтому его следует проверить по карточке оригинальной модели. Лицензия в README не указана.

ConvexAI/Luminex-34B-v0.2 — разговорная языковая модель ConvexAI на архитектуре Llama с 33,9 млрд параметров и контекстом до 32 768 токенов. По карточке, это SimpleSmaug-34b с применённым методом LaserRMT; в метаданных базовой моделью указана jondurbin/bagel-34b-v0.2, от которой модель является дообучением. Модель предназначена для генерации текста и диалогового взаимодействия. В README приведены результаты Open LLM Leaderboard: среднее значение 77,19, включая 74,49 в AI2 Reasoning Challenge и 86,76 в HellaSwag; другие результаты заявлены, но таблица неполная. Модель опубликована в форматах PyTorch и Safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией репозитория.

MaziyarPanahi/M7Yamshadowexperiment28_Strangemerges_32Yamshadow — объединённая методом SLERP языковая модель семейства Mistral, созданная из automerger/M7Yamshadowexperiment28-7B и automerger/Strangemerges_32Yamshadow-7B. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста с контекстом до 32 768 токенов. Её можно применять для диалогов, написания и продолжения текста, а также других сценариев генерации на естественном языке. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Сведения о конкретных языках обучения и специализированных областях применения не приведены.

MBX-7B-v3 — языковая модель на архитектуре Mistral, представленная Flemming Miguel. В README модель описана как слияние через LazyMergekit моделей flemmingmiguel/MBX-7B и flemmingmiguel/MBX-7B-v3 методом SLERP; при этом в качестве базовой модели указана flemmingmiguel/MBX-7B-v3. Репозиторий содержит веса Safetensors, а README также упоминает квантованный формат GGUF. Модель предназначена для генерации текста. Её размер составляет 7,1 млрд параметров, длина контекста — 32 768 токенов. Карточка не сообщает о специализации на конкретном языке или предметной области. Модель распространяется по лицензии Apache-2.0.

megatron_2.1_MoE_2x7B — языковая модель архитектуры Mixtral с разреженной смесью экспертов (MoE), представленная пользователем Eurdem. Она предназначена для генерации текста и может применяться в диалоговых сценариях, ответах на вопросы и других задачах, решаемых текстовой языковой моделью. В карточке приведены результаты Open LLM Leaderboard: среднее значение 76,64, AI2 Reasoning Challenge — 72,95 и HellaSwag — 88,94. Модель содержит 7,1 млрд параметров, принимает контекст длиной до 32 768 токенов и распространяется в формате safetensors. Репозиторий помечен тегом merge, однако README и предоставленные сведения не называют исходные модели, вошедшие в слияние. Лицензия — Apache-2.0. Языки и дополнительные ограничения в доступных материалах не описаны.

MeliodasPercival_01_YamYam — объединённая модель семейства Mistral, созданная на основе automerger/MeliodasPercival_01-7B и automerger/YamYam-7B. Она предназначена для генерации текста и диалогов. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Опубликована в формате safetensors под лицензией Apache-2.0.

MeliodasT3q_AlloyingotneoyNeuralsirkrishna — объединённая языковая модель, опубликованная MaziyarPanahi. В README указано, что она объединяет automerger/MeliodasT3q-7B и automerger/AlloyingotneoyNeuralsirkrishna-7B. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров; для генерации текста доступно контекстное окно до 32 768 токенов. Модель предназначена для генерации текста по текстовому запросу. Репозиторий содержит веса в формате Safetensors и распространяется по лицензии Apache-2.0.

Menlo_Jan-nano-128k-GGUF — это набор квантизованных версий языковой модели Jan-nano-128k, разработанной Menlo и подготовленной пользователем bartowski в формате GGUF с помощью llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Указана поддержка английского языка и контекст длиной до 128 тысяч токенов, однако сведения об архитектуре, количестве параметров, дополнительных модальностях и точных сценариях применения в README отсутствуют. Доступны варианты от BF16 до низкобитных Q2–Q8 и IQ-квантований размером примерно от 1,67 до 8,05 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, а низкие уменьшают требования к памяти; для большинства случаев автор рекомендует варианты Q4_K_M, Q5 и Q6. Сильные стороны сборки — большой контекст, широкий выбор компромиссов между качеством и размером, а также совместимость с распространёнными инструментами локального вывода. Ограничения связаны с потерями качества при низких уровнях квантования и отсутствием в представленном README данных о результатах тестирования, производительности и требованиях к оборудованию. Модель распространяется по лицензии Apache-2.0.

microsoft_Phi-4-mini-instruct-GGUF — набор GGUF-квантизованных версий инструкционной модели Phi-4-mini-instruct, разработанной Microsoft. Квантизацию выполнил bartowski с использованием llama.cpp версии b4792 и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через LM Studio, llama.cpp и другие проекты на его основе. Доступны варианты квантизации от Q2_K_L до Q8_0 размером примерно от 1,83 до 4,08 ГБ. Более высокие разрядности обычно обеспечивают лучшее качество, но требуют больше памяти; в README рекомендуются, в частности, Q4_K_M как вариант стандартного размера, а также Q5, Q6 и Q8 для более высокого качества. Некоторые варианты используют Q8_0 для весов embedding и output, а отдельные форматы оптимизированы для CPU ARM, AVX или Apple silicon. Формат prompt использует специальные маркеры system, user и assistant. README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках, размере контекста, мультимодальности или лицензии исходной модели. Основные ограничения связаны с потерями качества при низких уровнях квантизации и необходимостью выбирать вариант с учётом доступной оперативной памяти.

MiniMax-M2.1-GGUF — это квантизированная версия языковой модели MiniMax-M2.1, разработанной MiniMaxAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. В репозитории доступны варианты в формате GGUF с уровнями квантизации от Q8_0 до Q2_K и IQ-квантами. Размер файлов составляет примерно от 79,82 до 243,14 ГБ. Более высокие уровни квантизации обеспечивают лучшее качество, но требуют больше памяти; варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M и Q4_K_S отмечены как рекомендуемые, тогда как некоторые Q3- и Q2-варианты имеют заметно более низкое качество. Поддерживаемые языки, архитектура исходной модели, размер контекста и мультимодальные возможности в README не указаны. Основные преимущества — широкий выбор квантизаций, возможность локального запуска и оптимизация imatrix-калибровкой. Ограничениями являются очень большой размер файлов и компромисс между требованиями к памяти и качеством генерации; низкобитные варианты могут давать существенно худшие результаты. Указана лицензия modified-MIT; подробные условия приведены в лицензии исходной модели MiniMax-M2.1.

Ministral-3-14B-Reasoning-2512-Uncensored-i1-GGUF — квантизированная версия модели Ministral-3-14B-Reasoning-2512-Uncensored. Базовую модель разработал ccharnkij, а квантизацию выполнил mradermacher. Модель распространяется в формате GGUF и предназначена для локального запуска с использованием совместимых инструментов. Модель рассчитана на генерацию текста и задачи рассуждения, а также поддерживает обработку изображений вместе с текстом. Заявлены размер 14B параметров, мультимодальность и поддержка английского языка. В репозитории представлены варианты квантизации i1-IQ и i1-Q с размером файлов примерно от 3,4 до 8,3 ГБ; варианты различаются компромиссом между требованиями к памяти, скоростью и качеством. Для vision-функций могут потребоваться отдельные mmproj-файлы из статического репозитория. Сильными сторонами являются локальный запуск, широкий выбор уровней квантизации и сочетание текстовых, визуальных и reasoning-сценариев. Ограничения включают возможное снижение качества при агрессивной квантизации, неизвестные в README размер контекста и архитектурные детали, а также отсутствие заявленных языков помимо английского. Модель распространяется по лицензии Apache-2.0.

Ministral-3-3B-Reasoning-2512-GGUF — это конвертированная в формат GGUF версия модели Ministral-3-3B-Reasoning-2512, разработанной Mistral AI. Модель предназначена для задач генерации текста с поддержкой визуально-текстового ввода, что отражено в типе pipeline image-text-to-text. В README указано, что конвертация выполнена с использованием скрипта convert_hf_to_gguf.py. Модель подходит для локального запуска и интеграции с инструментами, совместимыми с форматом GGUF, включая llama-server. Из идентификатора следует, что модель относится к классу 3B, однако точные сведения об архитектуре, размере контекста, поддерживаемых языках, модальностях и вариантах квантования в README не приведены. Сильными сторонами являются компактный размер и возможность использования в локальной инфраструктуре, но производительность и требования к ресурсам зависят от конкретной конфигурации запуска. Лицензия модели — Apache 2.0. README указывает базовую модель mistralai/Ministral-3-3B-Reasoning-2512, но не содержит дополнительных ограничений, результатов оценки или подробностей о допустимых сценариях коммерческого использования.

Ministral-3-3B-Reasoning-2512-GGUF — это набор квантованных файлов модели в формате GGUF для исходной модели Ministral-3-3B-Reasoning-2512, разработанной компанией Mistral AI. Квантование и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие. Формат GGUF удобен для запуска на локальных компьютерах и поддерживает варианты квантования с разной точностью — от 2 до 8 бит, что позволяет выбирать компромисс между качеством, потреблением памяти и скоростью работы. Из доступных данных известно, что это модель класса 3B с текстовой модальностью и специализацией на reasoning-задачах. Архитектура исходной модели, поддерживаемые языки, размер контекста, точные параметры вариантов квантования и показатели качества в README не указаны. Возможности и качество зависят от выбранного файла квантования и используемого программного обеспечения. Лицензия в README не указана.

wang7776/Mistral-7B-Instruct-v0.2-sparsity-10 — разреженная версия инструктивной языковой модели Mistral-7B-Instruct-v0.2, созданная методом Wanda с целевой разреженностью 10% без дообучения или обновления весов. Базовая модель разработана Mistral AI; в карточке перечислены участники команды Mistral AI. Это плотный трансформер Mistral с Grouped-Query Attention, Sliding-Window Attention и токенизатором Byte-fallback BPE; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста по инструкциям и диалогового общения. В README указан формат запросов с маркерами [INST] и [/INST]; метаданные отмечают поддержку чата. Модель опубликована в формате safetensors по лицензии Apache-2.0. README предупреждает, что у базовой инструктивной модели нет механизмов модерации; качество и поведение разреженной версии отдельно не описаны.