I.14Автоматизация процессов и AI-агенты

Карточка модели Edgerunners/Lyraea-large-llama-3.1 на Hugging Face совпадает с карточкой Edgerunners/Lyraea-medium-llama-3.1, поэтому описание составлено по ней. Lyraea-medium-llama-3.1 — разговорная языковая модель семейства Llama 3.1, опубликованная Edgerunners. Это средний вариант серии small, medium и large, созданной на основе llama-3.1-8b-128k uncensored. Модель предназначена для генерации текста в диалоговом формате; автор отмечает, что варианты серии имеют разные сценарии применения. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов. В репозитории представлены веса Safetensors. Языковые сведения в карточке не приводятся. Модель предоставляется «как есть» и «по мере доступности», без гарантий; провайдер снимает с себя ответственность за ущерб и не гарантирует соответствие конкретным требованиям или безошибочную работу. Сведения о лицензии в доступных данных отсутствуют.

M7Yamshadowexperiment28_M7Alloyingotneoy — объединённая модель Mistral от MaziyarPanahi, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/M7Alloyingotneoy-7B. Она предназначена для генерации текста и диалоговых сценариев. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0.

Manticore 13B — языковая модель для генерации текста и диалогового взаимодействия, разработанная Open Access AI Collective. Представлена в формате GGUF и квантизирована TheBloke для запуска с использованием llama.cpp и совместимых приложений и библиотек. Модель основана на архитектуре Llama и содержит около 13 млрд параметров. Модель предназначена для ответов на вопросы, ведения диалогов, следования инструкциям, обобщения текста и решения широкого спектра задач, отражённых в использованных наборах данных, включая MMLU, HellaSwag, ScienceQA и различные коллекции инструкций и диалогов. В README указан английский язык и шаблон запросов Vicuna. Поддерживаются варианты квантизации от 2 до 8 бит, что позволяет выбирать между требованиями к памяти, скоростью и качеством, а запуск возможен на CPU и GPU через llama.cpp, text-generation-webui, LM Studio, KoboldCpp и другие совместимые инструменты. Сильной стороной модели является возможность локального запуска и широкий выбор уровней квантизации. Ограничения включают отсутствие в предоставленных данных сведений о размере контекста, точных характеристиках качества, мультимодальности и поддерживаемых языках помимо английского; модель предназначена для работы с текстом. В метаданных указана лицензия «other», однако её конкретные условия и ограничения в README не раскрыты.

MeliodasPercival_01_NeuralsirkrishnaExperiment28 — объединённая модель семейства Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/NeuralsirkrishnaExperiment28-7B. Она предназначена для генерации текста и диалогов; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. Веса опубликованы в формате safetensors по лицензии Apache-2.0. README не уточняет специализацию, языки, оценки качества или особенности настройки диалогов.

MaziyarPanahi/MeliodasPercival_01_T3qm7xExperiment28 — объединённая модель семейства Mistral с 7,1 млрд параметров для генерации текста и диалогов. Она объединяет модели automerger/MeliodasPercival_01-7B и automerger/T3qm7xExperiment28-7B и использует архитектуру MistralForCausalLM с плотной структурой. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. Модель подходит для генерации продолжений текста и диалоговых ответов. В карточке указана лицензия Apache-2.0. Подробности о языковом покрытии и специальных ограничениях в доступных данных не описаны.

MiniCPM-2B-SFT-bf16 — текстовая генеративная модель из семейства MiniCPM, разработанного ModelBest и лабораторией обработки естественного языка Университета Цинхуа. Это версия MiniCPM-2B, дообученная с учителем (SFT) и сохранённая в формате PyTorch с точностью bf16; в метаданных указано 2,7 млрд параметров, а README описывает базовый MiniCPM-2B как модель с 2,4 млрд параметров без учёта эмбеддингов. Модель предназначена для диалогов и генерации текста, в том числе на китайском и английском языках. Контекст составляет 4096 токенов. README сообщает о сильных результатах семейства MiniCPM на общих тестах, включая китайский язык, математику и программирование, и о возможности запускать модели семейства на мобильных устройствах после отдельной квантизации. Эти результаты не следует автоматически переносить на конкретную SFT-сборку bf16. Разработчики разрешают академическое исследование и ограниченное коммерческое использование; точные условия лицензии в предоставленных данных не приведены.

MisGemma-7B — объединённая языковая модель, созданная автором репозитория с помощью mergekit из EmbeddedLLM/Mistral-7B-Merge-14-v0.1 и HuggingFaceH4/zephyr-7b-beta методом slerp. Это плотная модель семейства Mistral с 7,1 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Размер контекста — до 32 768 токенов. Модель можно применять для ведения диалога и генерации ответов на текстовые запросы. В репозитории веса сохранены в формате safetensors; указана лицензия Apache-2.0. Карточка не приводит оценок качества или результатов тестирования, поэтому пригодность для конкретных задач следует проверять отдельно.

TheBloke/Mistral-7B-OpenOrca-GGUF — это набор квантованных файлов модели Mistral 7B OpenOrca в формате GGUFv2. Исходную модель разработала OpenOrca, а квантование и публикацию GGUF-версии выполнил TheBloke. Модель относится к архитектуре Mistral, предназначена для генерации текста и диалоговых сценариев на английском языке и использует шаблон запросов ChatML с ролями system, user и assistant. Модель содержит около 7 миллиардов параметров. В репозитории представлены варианты квантования от 2 до 8 бит, включая методы Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между размером файлов, требованиями к памяти, скоростью и качеством вывода. Формат подходит для локального запуска на CPU и GPU через llama.cpp, text-generation-webui, LM Studio, KoboldCpp и другие совместимые приложения и библиотеки. Максимальный размер контекста и поддерживаемые модальности в README не указаны; по имеющимся данным модель является текстовой. К сильным сторонам относятся возможность локального использования, широкий выбор уровней квантования и совместимость с распространёнными инструментами инференса. Ограничения включают англоязычную специализацию, возможную потерю качества при низкобитном квантовании и отсутствие заявленных характеристик контекстного окна, бенчмарков и гарантий точности. Указанная лицензия — Apache-2.0.

mistralake-slerp — разговорная языковая модель, созданная объединением HuggingFaceH4/mistral-7b-grok и senseable/WestLake-7B-v2 с помощью LazyMergekit. Для слияния использован метод SLERP; в конфигурации указан тип bfloat16. Модель основана на плотной архитектуре Mistral и предназначена для генерации текста в диалоговом формате. Её можно применять для ведения диалога, ответов на вопросы и создания текстовых черновиков. Заявленная длина контекста — 32 768 токенов. В репозитории используются веса Safetensors. Лицензия в предоставленных данных не указана.

aqweteddy/mistral_tv-neural-marconroni — объединённая языковая модель на базе Mistral 7B, сочетающая чат-векторные компоненты Neural-Chat и Marconroni. В README описан подход Chat Vector: он переносит чат-поведение в языковую модель с помощью слияния весов, без отдельного цикла дообучения для получения новых диалоговых возможностей. Метаданные указывают на плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и диалогов, включая выполнение инструкций и многоходовое общение. README приводит результаты оценки на наборах задач рассуждения и здравого смысла, но не уточняет отдельные показатели именно этой модели, кроме среднего результата и оценок по двум тестам. В карточке указан английский язык; описание подхода Chat Vector посвящено также китайскому и корейскому языкам, но поддержка этих языков данной сборкой не подтверждена. Репозиторий содержит веса Safetensors, лицензия — MIT.

MysticGem-v1.3-Guanaco-L2-13B — объединённая текстовая языковая модель на базе Llama 2, подготовленная автором репозитория v000000 с помощью mergekit. В линейное слияние вошли v000000/MysticGem-v1.3-L2-13B и Mikael110/llama-2-13b-guanaco-qlora; в README также сказано, что к MysticGem 1.3 применялась LoRA. Архитектура — плотная LlamaForCausalLM, размер — 12,9 млрд параметров, родной контекст — 4096 токенов. Модель предназначена для генерации текста и диалогового использования с шаблонами запросов Alpaca и Metharme. В репозитории доступны веса Safetensors; README упоминает также варианты GGUF и GGUF imatrix, подготовленные mradermacher. Язык лицензии и условия использования в предоставленных данных не описаны.

Nanbeige4.2-3Bcmf — это квантизированная версия Nanbeige/Nanbeige4.2-3B, разработанная Nanbeige LLM Lab и преобразованная в формат CMF проектом infosave2007. Модель предназначена для генерации текста и задач, требующих рассуждений: она сначала формирует внутренний ход рассуждений, а затем выдаёт ответ. Формат CMF хранит модель в одном файле объёмом около 2,4 ГБ и позволяет запускать её через чистый Rust-runtime без Python. Архитектура модели — Looped Transformer: 22 физических слоя применяются дважды, что соответствует 44 виртуальным слоям, с повторной нормализацией на границах циклов. Используется квантизация q4t; с учётом большой vocabulary и untied embeddings файл содержит около 4,17 млрд параметров, несмотря на обозначение 3B. Модель работает с текстом; поддерживаемые языки и максимальная длина контекста в README не указаны. Доступны CPU- и GPU-сценарии, включая Apple Metal, Vulkan и DX12, а также OpenAI-compatible API через cortiq serve. Сильные стороны модели — компактное хранение, автономный запуск на компьютерах и мобильных устройствах, потоковая генерация и сохранение поведения исходной модели после конвертации. Ограничения связаны с вычислительной стоимостью looped-архитектуры: производительность зависит от пропускной способности памяти, а для reasoning-сценариев требуется выделять несколько сотен токенов на генерацию. Указанные результаты производительности относятся к конкретному оборудованию и runtime cortiq версии не ниже 0.5.35, поэтому не гарантируют аналогичные показатели в других условиях. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели. Права на веса принадлежат Nanbeige LLM Lab; репозиторий infosave2007 изменяет формат хранения и исполнения.

YeonwooSung/Neos-Gemma-2-9b — диалоговая языковая модель на архитектуре Gemma 2, дообученная автором с помощью ORPO. В основе лежит google/gemma-2-9b-it; модель содержит 9 млрд параметров и рассчитана на контекст до 8192 токенов. Для дообучения использован набор mlabonne/orpo-dpo-mix-40k. Модель предназначена для генерации текста в диалоговом формате, ответов на вопросы и других задач общения с языковой моделью. В карточке приведены результаты оценок Open LLM Leaderboard, включая IFEval и BBH. Модель распространяется в формате safetensors по лицензии Apache-2.0.

NeuralFusion-7b-Dare-Ties — текстовая генеративная модель, созданная Kukedlc путём слияния трёх моделей на основе Mistral с помощью LazyMergekit и метода DARE-TIES. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и языковых задач общего назначения. Приведённые в карточке результаты оценивания включают тесты на рассуждение и здравый смысл, в том числе AI2 Reasoning Challenge и HellaSwag. Весовые файлы доступны в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает о специализированной отраслевой настройке или ограничениях качества.

NeuralHermes-2.5-Mistral-7B-GGUF — это квантованная версия языковой модели NeuralHermes-2.5-Mistral-7B, разработанной mlabonne и преобразованной в формат GGUF пользователем MaziyarPanahi. Модель основана на Mistral-7B и предназначена для генерации текста и диалогового использования в инструкционном режиме с применением шаблона ChatML. Модель подходит для локального запуска через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. В репозитории доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти, скоростью работы и качеством генерации. Заявлена поддержка преимущественно английского языка; сведения о размере контекста и других модальностях отсутствуют, поэтому модель следует рассматривать как текстовую. К сильным сторонам относятся локальный запуск, широкий выбор уровней квантования и совместимость с распространёнными инструментами инференса. К ограничениям относятся возможная потеря качества при низкой разрядности квантования, зависимость производительности от выбранного файла и оборудования, а также отсутствие в предоставленных данных подробных оценок качества, безопасностных характеристик и размера контекста. Модель распространяется по лицензии Apache-2.0.

NeuralMonarch-7B — языковая модель на 7,1 млрд параметров, разработанная Mlabonne на основе Monarch-7B. Это плотная авторегрессионная модель семейства Mistral, дообученная методом DPO на наборах предпочтений truthy-dpo-v0.1 и distilabel-intel-orca-dpo-pairs. Исходная Monarch-7B создана слиянием нескольких моделей, включая OmniTruthyBeagle-7B-v0, NeuBeagle-7B и NeuralOmniBeagle-7B. Модель предназначена для диалогов, следования инструкциям и задач рассуждения. Карточка рекомендует шаблон чата Mistral Instruct и сообщает об окне контекста 8 тыс. токенов; метаданные указывают нативный контекст 32 768 токенов. Заявлены хорошие результаты в бенчмарках для моделей класса 7B, однако эти оценки не гарантируют качество в конкретных сценариях. Модель принимает текст и генерирует текст. В карточке указан английский язык. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

NeuralsirkrishnaShadow_Experiment29Experiment24 — объединённая языковая модель семейства Mistral, созданная из automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment29Experiment24-7B. Она содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и распространяется в формате Safetensors. Модель предназначена для генерации текста и принимает текстовые запросы. Контекстное окно составляет до 32 768 токенов. Языки и специализированные области применения в карточке не обозначены. Модель выпущена под лицензией Apache-2.0.

NeuralsirkrishnaShadow_YamStrangemerges_32 — объединённая текстовая модель на базе архитектуры Mistral, созданная из automerger/NeuralsirkrishnaShadow-7B и automerger/YamStrangemerges_32-7B. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель содержит 7,1 млрд параметров и опубликована в формате Safetensors. Модель может использоваться для генерации продолжений, черновиков и ответов на текстовые запросы. Карточка не сообщает о специализации на конкретных языках или областях. Лицензия — Apache-2.0.

NexteraBERT-Mezzoforte-220M-en — англоязычный двунаправленный энкодер семейства NexteraBERT, разработанный независимым исследователем RikkaBotan. В репозитории указано 212,6 млн параметров, а метаданные Hugging Face сообщают 353,6 млн; архитектура состоит из 18 блоков с несколькими типами смешивания токенов: линейным SnowLily, скользящим вниманием, полным вниманием и NexteraHRA. Модель предобучена методом masked language modeling на 130 млрд токенов; максимальная длина обучения составляла 8 192 токена. Метаданные не содержат значения длины контекста для инференса. Основной сценарий — восстановление замаскированных токенов. Энкодер также можно дообучать для классификации текста, разметки токенов, ответов на вопросы, задач с вариантами ответа, поиска и оценки сходства. Для поиска и сходства требуется отдельное дообучение: автор подчёркивает, что исходная модель не является готовой моделью эмбеддингов. В сравнительных оценках она показывает результаты, сопоставимые с ModernBERT-base на GLUE, MTEB и BEIR. Модель предназначена для английского языка и использует токенизатор ModernBERT с словарём из 50 368 токенов. Для загрузки пользовательского кода требуется trust_remote_code=True; автор сообщает о проверке с Transformers 5.12 и PyTorch 2.12. Лицензия — MIT.

duyntnet/Nous-Hermes-Llama2-13b-imatrix-GGUF — набор квантизированных версий текстовой генеративной модели Nous-Hermes-Llama2-13b, разработанной NousResearch. Модель предназначена для генерации текста и работы в локальных приложениях и интерфейсах, поддерживающих формат GGUF и совместимых с llama.cpp, включая JanAI, KoboldCPP, text-generation-webui, Ollama и GPT4All. Для взаимодействия используется формат промпта Alpaca с полями Instruction, а при необходимости Input и Response. Из известных характеристик: модель имеет размер 13B параметров, работает с текстом и заявлена для английского языка. Квантизация с использованием imatrix может снизить требования к памяти и упростить локальный запуск, однако конкретные варианты квантования и их компромиссы между качеством, скоростью и потреблением ресурсов в README не указаны. Ограничения по качеству, производительности, поддерживаемому контексту и аппаратным требованиям также не описаны. Лицензия обозначена как other, без дополнительных условий или подробностей.

omost-phi-3-mini-128k — разговорная модель семейства Phi-3, разработанная Omost и основанная на Phi-3 Mini. Она предназначена для генерации текста и диалоговых сценариев. В README заявлен контекст 128 тыс. токенов и формат fp16; метаданные указывают 3,7 млрд параметров, архитектуру Phi3ForCausalLM и файлы safetensors. По метаданным нативный контекст составляет 4096 токенов, поэтому заявленную длину 128 тыс. токенов следует считать характеристикой из README, не подтверждённой метаданными. Лицензия в предоставленных источниках не указана.

OpenBuddy-mistral-7b-v13.1 — многоязычная чат-модель проекта OpenBuddy на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для диалогов и генерации текста; заявлены языки китайский, английский, французский, немецкий, японский, корейский, итальянский и русский. Модель принимает текст и генерирует текст, длина контекста составляет 32 768 токенов. Модель распространяется под лицензией Apache 2.0. В README отмечено, что ответы могут быть ошибочными, вредными или оскорбительными; модель не следует использовать для критически важных решений в медицине, управлении потенциально опасными системами, финансах и праве. Она предоставляется без гарантий.

pankajmathur/orca_mini_v3_13b — языковая модель Pankaj Mathur на архитектуре Llama 2 с 12,9 млрд параметров. Модель дообучена на наборах данных в стиле Orca и предназначена для генерации текста и выполнения инструкций в формате диалога с системным сообщением. Модель подходит для ответов на вопросы, объяснений и других текстовых задач общего назначения. В карточке приведены результаты оценки на нескольких наборах задач, включая ARC и HellaSwag; они служат ориентирами и не гарантируют точность в конкретном сценарии. Контекст составляет 4096 токенов, модель принимает и генерирует текст, в метаданных указан английский язык. Модель доступна в форматах PyTorch и Safetensors и использует библиотеку Transformers. Карточка указывает лицензию как «other», поэтому перед применением следует проверить условия лицензии репозитория. Модель может давать ошибочные или вводящие в заблуждение ответы, а также генерировать предвзятый или оскорбительный текст; важные сведения следует проверять.

Ornith-1.5-9B-UNCENSORED-GGUF — квантованная мультимодальная версия модели Ornith 1.5 9B, основанной на ornith-ai/Ornith-1.5. Репозиторий подготовлен Dealign.ai. Модель предназначена для генерации и анализа текста, задач рассуждения, а также обработки изображений вместе с текстовыми запросами через llama.cpp. Вариант CRACK-abliterated уменьшает или устраняет стандартное отказное поведение и защитные ограничения модели. Модель использует гибридную архитектуру GatedDeltaNet (SSM) и attention, поддерживает режим рассуждений с выводом трассы <think> и работу с изображениями через отдельный vision projector mmproj-Ornith-1.5-9B-f16.gguf. Доступны квантования GGUF Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q3_K_M и Q2_K размером примерно от 3,6 до 8,9 ГБ; сбалансированным вариантом разработчик называет Q4_K_M. В README не указаны поддерживаемые языки и максимальный контекст, однако приведены примеры запуска с контекстом 8192 токена. К сильным сторонам относятся сохранение знаний и качества рассуждений относительно базовой модели, поддержка vision-language сценариев и возможность локального запуска. По данным заявленных тестов, разница MMLU между базовой и изменённой моделью при одинаковом квантовании не превышает 3 процентных пунктов. Основное ограничение — практически полное отсутствие защитных барьеров: в HarmBench указана высокая доля успешных ответов на вредоносные запросы, включая темы киберпреступности, химии, биологии и незаконной деятельности. Поэтому модель требует ответственного и законного применения. Распространяется по лицензии MIT, унаследованной от базовой модели.

PasticheInex12-7B — объединённая модель для генерации текста, созданная Maxime Labonne с помощью автоматического слияния двух моделей Mistral: CorticalStack/pastiche-crown-clown-7b-dare и MSL7/INEX12-7b. В README указаны метод слияния SLERP и формат весов bfloat16; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Лицензия — Apache-2.0. README и метаданные не уточняют поддерживаемые языки или специализированные предметные области.

Qwen2.5-14B-Instruct-heretic — это модифицированная версия Qwen2.5-14B-Instruct, разработанная автором RACER IS OP и опубликованная пользователем saidutta69. Модель предназначена для диалогов, генерации текста, рассуждений и выполнения инструкций, особенно в сценариях, где требуется прямой ответ без стандартных отказов базовой модели. Она работает с текстом и заявлена для английского языка. Модель сохраняет архитектуру и размер базовой Qwen2.5-14B-Instruct — около 14,8 млрд параметров. Деконтентирование выполнено с помощью Heretic v1.4.0 методом направленной абляции: целевые изменения внесены в веса выходных проекций attention и down-пр projections MLP без дообучения. По данным README, частота отказов на наборе из 100 adversarial-запросов снизилась с 98 до 14, а KL-дивергенция относительно базовой модели составила 0,06, что указывает на небольшие изменения распределения ответов. Сильная сторона модели — сохранение исходных знаний и навыков следования инструкциям при существенно меньшем числе отказов. Доступны полноточные BF16-веса и GGUF-квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0; запуск возможен на GPU с 16–24 ГБ памяти, потребительском оборудовании, CPU и Apple Silicon. Ограничения включают отсутствие дополнительного прироста возможностей, унаследованные фактические ограничения и предубеждения базовой модели, а также намеренное подавление защитных механизмов: модель может выполнять потенциально небезопасные запросы и не подходит для неотмодерированных публичных сервисов. Лицензия — qwen-research; условия коммерческого использования следует уточнять в лицензии базовой модели.

Qwen2.5-32B-Instruct-IMat-GGUF — это GGUF-квантизированная версия языковой модели Qwen2.5-32B-Instruct, разработанной командой Qwen и подготовленной для llama.cpp пользователем legraphista. Модель предназначена для диалогов и генерации текста, включая использование в локальных приложениях и совместимых инструментах инференса. В README указана поддержка английского языка и задача text-generation. Модель имеет размер 32B параметров и основана на исходных весах BF16. Доступны варианты от BF16 и F16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K, включая форматы с IMatrix-квантизацией. Размер файлов составляет примерно от 12,31 до 65,54 ГБ в зависимости от варианта; некоторые высокоточные версии разделены на несколько файлов. IMatrix применяется к ряду вариантов с более сильным сжатием, что позволяет уменьшить требования к памяти при сохранении качества, однако README не содержит количественной оценки качества и не указывает размер контекста или дополнительные модальности. Сильной стороной модели является широкий выбор уровней квантизации и совместимость с llama.cpp, благодаря чему можно подобрать компромисс между качеством, скоростью и потреблением памяти. Ограничениями являются значительные аппаратные требования даже для сжатых вариантов, а также отсутствие в предоставленных данных подробных сведений о производительности, языковом охвате за пределами английского и ограничениях применения. Распространение указано по лицензии Apache-2.0.

Это полноразмерный объединённый чекпойнт Qwen2.5-3B-Instruct, дообученный и опубликованный gradients-io-tournaments. Модель построена на архитектуре Qwen2ForCausalLM и содержит около 3,1 млрд параметров; веса представлены в формате safetensors, точность — bfloat16. Контекстное окно составляет 32 768 токенов. Модель предназначена для диалогов, выполнения инструкций и генерации текста. Её можно использовать для создания ответов, черновиков и структурированного текста в приложениях на базе Transformers. В карточке не описаны конкретная специализация дообучения, используемые языки или оценка качества, поэтому назначение за пределами общего текстового общения не уточняется. Лицензия в предоставленных данных не указана.

Qwen2.5-3B-Instruct-GGUF — набор GGUF-квантизаций инструкционной языковой модели Qwen2.5-3B-Instruct. Квантизации подготовлены пользователем bartowski с помощью llama.cpp и imatrix; исходная модель опубликована под именем Qwen/Qwen2.5-3B-Instruct. Модель предназначена для генерации текста и диалоговых сценариев, включая использование в локальных приложениях через llama.cpp и LM Studio. Доступны варианты от полноразмерного F16 до более компактных форматов Q8_0, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством ответов и требованиями к памяти. Размер файлов составляет примерно от 1,35 до 6,18 ГБ. Указан английский язык; сведения о других языках, архитектуре и размере контекста в README отсутствуют. Для работы следует использовать шаблон сообщений Qwen с ролями system, user и assistant. Сильная сторона набора — широкий выбор уровней квантизации, включая варианты, оптимизированные для ARM, а также imatrix-квантизации с акцентом на сохранение качества. Более компактные варианты требуют меньше памяти, но могут заметно уступать старшим форматам по качеству; некоторые низкобитные версии прямо обозначены как низкокачественные или нерекомендуемые. Лицензия указана как qwen-research с отдельной лицензией исходной модели.

MaziyarPanahi/Qwen2.5-3B-Instruct-GGUF — это набор файлов модели в формате GGUF для инструкционной языковой модели Qwen2.5-3B-Instruct, разработанной командой Qwen и квантованной MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые приложения и библиотеки. Модель содержит около 3 миллиардов параметров и работает в текстовой модальности. В репозитории представлены варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством ответов. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими инструментами. Сведения о языках и размере контекстного окна в README не указаны. К сильным сторонам относятся возможность локального запуска, широкий выбор уровней квантования и совместимость с популярной экосистемой GGUF, включая GPU-ускорение и OpenAI-совместимые серверы в некоторых клиентах. Ограничения связаны с потерей качества при использовании более агрессивного квантования, а также с тем, что README не содержит результатов тестирования, подробностей архитектуры, языкового охвата и условий лицензирования. Лицензия в предоставленных данных не указана.