II.6Документация и сопровождение разработки

Olmo-3-7B-Think — авторегрессионная плотная Transformer-модель для генерации текста, разработанная Allen Institute for AI (Ai2). Это вариант семейства Olmo 3 с упором на пошаговое рассуждение; карточка указывает обучение на данных Dolma 3 и последующее дообучение на наборах Dolci. В метаданных базовой моделью названа allenai/Olmo-3-7B-Think-DPO, а связь указана как finetune. Модель предназначена для диалогов и задач, где полезны развёрнутые рассуждения, в частности математики, программирования, ответов на общие вопросы и следования инструкциям. Она содержит 6,9 млрд параметров, поддерживает контекст до 65 536 токенов и рассчитана прежде всего на английский язык. Для запуска используется библиотека Transformers; веса опубликованы в формате safetensors. Модель может давать неточные ответы и без дополнительной фильтрации способна генерировать вредный или чувствительный контент. Результаты следует проверять, а при практическом использовании учитывать возможную предвзятость. Лицензия — Apache 2.0; карточка также ссылается на рекомендации Ai2 по ответственному использованию.

OpenBuddy-openbuddy-mistral-22b-v21.1-32k — разговорная языковая модель OpenBuddy для многоязычного чата и генерации текста. Она основана на плотной архитектуре Mistral и содержит 22,1 млрд параметров; карточка рекомендует использовать быстрый токенизатор Transformers и указывает совместимость с Transformers и vLLM. Модель принимает текстовые запросы и генерирует текстовые ответы, а её нативное контекстное окно составляет 65 536 токенов. Модель предназначена для диалоговых сценариев на китайском, английском, французском, немецком, японском, корейском, итальянском, русском и финском языках. Её можно применять для чат-ботов, ответов на вопросы, диалогового письма и суммаризации длинного контекста. Лицензия — Apache 2.0. Разработчики предупреждают, что ответы могут быть ошибочными, вредными или оскорбительными, и не рекомендуют применять модель в критических сценариях, включая медицину и важные финансовые или юридические решения.

OpenChat v3.2 Super — диалоговая языковая модель из семейства OpenChat, разработанная командой OpenChat и дообученная на основе Llama 2. Модель содержит 12,9 млрд параметров, использует плотную архитектуру Llama и принимает текст для генерации текстовых ответов. Нативный контекст составляет 4096 токенов. Модель предназначена для диалогов, ответов на вопросы и генерации текста; авторы также сообщают о высокой оценке в тестах AgentBench, AlpacaEval и MT-bench. Для развёртывания авторы рекомендуют OpenChat API server на базе vLLM; в README указаны требования от 48 ГБ видеопамяти на одном GPU или двух потребительских GPU с разделением нагрузки. Модель распространяется по лицензии Llama 2 Community License, допускающей коммерческое использование. Возможны галлюцинации, а качество может снижаться на сложных рассуждениях, математике и задачах программирования.

OpenDolphin-7B-slerp — объединённая модель WesPro, созданная методом slerp с помощью LazyMergekit на основе macadeliccc/Mistral-7B-v0.2-OpenHermes и cognitivecomputations/dolphin-2.8-mistral-7b-v02. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогов. Модель принимает текст и генерирует текст; её нативная длина контекста составляет 32 768 токенов. Она подходит для диалоговых приложений и генерации ответов, в том числе в сценариях RAG с передачей контекста в запросе. Карточка не описывает отдельные специализированные области применения или языковые приоритеты. В репозитории указаны веса Safetensors. Лицензия в предоставленных данных не указана. Качество и устойчивость ответов зависят от запроса и переданного контекста; README не приводит оценки качества или подробных ограничений.

MaziyarPanahi выпустил эту диалоговую модель как слияние Mistral-7B-Instruct-v0.2 и OpenHermes-2.5-neural-chat-7b-v3-1-7B методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, рассчитанная на диалог и генерацию текста по инструкциям; заявленная длина контекста — до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и создания текстов по запросу. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка не сообщает о специализированной предметной области или ограничениях качества.

OpenHermes 7B — англоязычная модель для генерации текста, разработанная Teknium и дообученная на базе NousResearch/Llama-2-7b-hf. Она предназначена для выполнения инструкций, диалогов, ролевых сценариев, ответов на общие вопросы и задач по программированию. Модель содержит 6,6 млрд параметров, использует плотную архитектуру Llama и принимает контекст до 4096 токенов. При обучении использовался набор из 242 тысяч примеров, преимущественно сгенерированных GPT-4 и собранных из открытых наборов данных, включая инструкции общего назначения, ролевые диалоги и примеры по программированию. Обучение применяло упаковку примеров для ускорения процесса. Репозиторий распространяется в формате PyTorch по лицензии MIT. Карточка приводит результаты нескольких тестов, но они сами по себе не гарантируют качество ответов в конкретных сценариях.

VMware/open-llama-7b-v2-open-instruct — инструктивно дообученная версия OpenLLaMA 7B v2 от VMware на наборе Open-instruct. Это плотная авторегрессионная модель семейства LLaMA с 6,6 млрд параметров и контекстом 2048 токенов, предназначенная для генерации текста и ответов на инструкции. В карточке отмечено улучшение результатов на задачах программирования относительно первой версии OpenLLaMA; для инструктивного дообучения использован шаблон Alpaca. Основной язык карточки — английский. Модель подходит для диалоговых ответов, выполнения текстовых инструкций, объяснения понятий и генерации примеров кода. Она распространяется в форматах PyTorch и safetensors по лицензии CC BY-SA 3.0. Для корректной токенизации в README рекомендуется отключить быстрый токенизатор, поскольку он может кодировать текст неверно.

OPT-IML-Max — инструкционно дообученная языковая модель семейства OPT, разработанная Meta. Она обучена на примерно 2000 задачах обработки естественного языка из восьми бенчмарков, включая Super-NaturalInstructions, FLAN и PromptSource, и предназначена для выполнения разнообразных инструкций и генерации текста. Модель использует плотную причинную архитектуру OPTForCausalLM, содержит около 1,7 млрд параметров и поддерживает контекст до 2048 токенов. Модель подходит для ответов на вопросы, суммаризации, перефразирования и других текстовых задач, сформулированных в виде инструкций. Карточка не уточняет список поддерживаемых естественных языков. Возможны фактические ошибки, токсичные высказывания и воспроизведение стереотипов; ответы требуют проверки. Лицензия указана как other, поэтому условия использования следует сверять с лицензией репозитория.

pankajmathur/orca_mini_v8_1_70b — диалоговая модель Pankaj Mathur, дообученная на базе meta-llama/Llama-3.3-70B-Instruct. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, предназначенная для генерации текста и ответов в формате диалога. В карточке приведён шаблон общения с системным, пользовательским и ассистентским сообщениями; среди датасетов указаны orca_mini_v1_dataset и orca_mini_v8_sharegpt_format. Модель работает с текстом и имеет контекстное окно до 131 072 токенов. Базовая Llama 3.3 поддерживает английский, французский, немецкий, хинди, итальянский, португальский, испанский и тайский языки; карточка Orca Mini отдельно отмечает английский. Лицензия — Llama 3.3 Community License (llama3.3). Модель может выдавать неточные, предвзятые или нежелательные ответы, поэтому её следует оценить и настроить под конкретное применение.

Ornith-1.5-9B-MXFP4_Hybrid-Imatrix-GGUF — это квантизированная GGUF-сборка модели Ornith-1.5-9B, разработанной Ornith AI и опубликованной пользователем jashepp. Модель предназначена для генерации текста, диалоговых сценариев, агентного использования, работы с инструментами и особенно для программирования и редактирования кода. Она ориентирована на задачи, где важны следование инструкциям, планирование и пошаговое рассуждение; автор рекомендует сохранять режим reasoning/thinking включённым. Модель имеет размер 9B параметров и распространяется в нескольких вариантах смешанной точности с использованием MXFP4, Q8_0 и F16. В сборках применена importance matrix (imatrix), а точность распределена по слоям вручную: наиболее чувствительные компоненты и общие части модели сохраняются в более высокой точности, тогда как разреженные экспертные блоки сжимаются до MXFP4. Доступны файлы размером примерно от 4,77 до 11,4 ГБ. Заявлен английский язык; модель относится к текстовым генеративным моделям и основана на архитектуре и весах Ornith-1.5-9B. Сильными сторонами являются улучшенное следование инструкциям, рассуждение, агентные сценарии и сохранение качества при снижении требований к памяти благодаря гибридной квантизации. Ограничения включают компромисс между размером и качеством в разных вариантах, отсутствие в README сведений о длине контекста, поддерживаемых языках помимо английского и подробных количественных результатах. Модель распространяется по лицензии MIT.

pandafish-2-7b-32k — объединённая модель на архитектуре Mistral, созданная ichigoberry с помощью LazyMergekit из Mistral-7B-Instruct-v0.2 и dolphin-2.8-mistral-7b-v02. Она предназначена для генерации текста и диалоговых ответов по инструкциям; в карточке указан шаблон Mistral Instruct. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. README приводит результаты сравнительных оценок AGIEval, GPT4All, TruthfulQA и Bigbench, но не описывает конкретные гарантии качества для отдельных задач. Опубликована в формате safetensors и распространяется по лицензии Apache-2.0.

Pangu Pro MoE — языковая модель на архитектуре смеси экспертов PanguProMoE, разработанная Huawei. Репозиторий представляет собой повторно загруженную копию модели. В README описана архитектура MoGE: эксперты разбиты на группы, а выбор экспертов для токенов организован так, чтобы обеспечивать баланс нагрузки между устройствами. Указаны 48 слоёв, словарь из 153 376 токенов, 4 общих эксперта и 64 маршрутизируемых эксперта в 8 группах; README сообщает о 72 млрд общих и 16 млрд активируемых параметров, тогда как метаданные репозитория указывают 18,9 млрд параметров. Модель предназначена для генерации текста и диалогового использования. Метаданные указывают контекст до 131 072 токенов; для инференса в README приведены варианты на Transformers и MindSpore, с упоминанием систем ускорения Huawei Ascend. Карточка заявляет предварительное и последующее обучение на корпусе объёмом 15 трлн единиц данных, но не уточняет языковое покрытие. Модель распространяется по Pangu Model License Agreement; конкретные условия следует сверить с файлом LICENSE репозитория. Сгенерированный текст может содержать ошибки и не должен рассматриваться как профессиональная медицинская, юридическая или иная консультация.

bunsenfeng/parti_15_full — генеративная языковая модель, опубликованная на Hugging Face в формате Transformers. По метаданным она относится к семейству Qwen2 и предназначена для генерации текста в диалоговых и других сценариях, поддерживаемых задачей text-generation. Модель содержит около 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Её можно применять для ведения диалогов, составления текстов, продолжения фрагментов и интеграции в приложения на базе библиотеки Transformers. README не содержит сведений о разработчике, языках, лицензии, данных обучения, результатах оценки или специальных ограничениях использования. Поэтому перед применением в критически важных сценариях необходимы самостоятельное тестирование, проверка фактической точности и уточнение условий лицензирования.

unsloth/phi-4 — версия Phi-4 от Unsloth, созданная на основе microsoft/phi-4. Авторы сообщают о переносе модели на архитектуру Llama для упрощения использования и дообучения, а также о внесении исправлений Phi-4. Модель содержит 14,1 млрд параметров и принимает текст, преимущественно в формате чата; длина контекста — 16 384 токена. Модель предназначена для генерации текста и диалогов на английском языке, включая задачи рассуждения, логики, математики и программирования. Её можно использовать как основу для генеративных функций в сценариях с ограничениями по памяти, вычислительным ресурсам или задержке. По карточке базовая Phi-4 разработана Microsoft Research и обучена с использованием синтетических данных, отфильтрованных публичных веб-источников, академических книг и наборов вопросов и ответов; для улучшения следования инструкциям применялись supervised fine-tuning и direct preference optimization. Репозиторий использует формат safetensors и распространяется по лицензии MIT. Модель ориентирована прежде всего на английский язык; как и другие языковые модели, она может ошибаться, поэтому её ответы следует проверять, особенно при использовании в высокорисковых сценариях.

plato-9b — диалоговая языковая модель на 9 млрд параметров, разработанная DeepVK дообучением google/gemma-2-9b-it. Она предназначена прежде всего для генерации ответов на русском языке и общения в формате диалога. Модель обучали с supervised fine-tuning и оптимизацией предпочтений на инструкционных данных, включавших диалоги, математику, биологию, химию, код и общие знания. Архитектура — плотная Gemma 2 для причинной генерации текста; контекст — до 8192 токенов. Метаданные указывают поддержку русского и английского языков. В карточке приведены оценки на русскоязычных наборах arena-general-ru и arena-hard-ru с оцениванием LLM-as-a-judge. Эти результаты характеризуют конкретные тесты и не гарантируют качество для каждой задачи. Модель принимает текст и генерирует текст. Распространяется по лицензии Apache-2.0.

prototype-128x03 — языковая модель, созданная разработчиком shamwowzer слиянием предварительно обученных моделей при помощи mergekit. В слиянии использованы /workspace/modeler/Behemoth и /workspace/mistral-text-only; последняя указана базовой моделью. Применён метод Multi-SLERP, итоговые веса сохранены в формате safetensors с точностью bfloat16. Модель относится к семейству Mistral, использует плотную архитектуру MistralForCausalLM и содержит 123,4 млрд параметров. Она предназначена для генерации текста и диалогового общения; максимальный контекст составляет 262 144 токена. Лицензия и поддерживаемые естественные языки в предоставленных данных не указаны.

LIF1014/ptdbench-Llama-3.2-1B-Instruct — текстовая инструктивная модель семейства Llama 3.2, разработанного Meta. Это авторегрессионный трансформер с плотной архитектурой LlamaForCausalLM и примерно 1,2 млрд параметров; модель предназначена для диалогов с ассистентом, генерации текста и сценариев с агентным поиском и суммаризацией. Поддерживает текст на входе и выдаёт текст, включая код. Контекстное окно — 131 072 токена. Модель работает с английским, немецким, французским, итальянским, португальским, хинди, испанским и тайским языками. Небольшой размер подходит для развёртывания в средах с ограниченными ресурсами, в том числе на мобильных устройствах. Знания модели ограничены данными обучения со срезом до декабря 2023 года; качество и безопасность могут уступать более крупным моделям, поэтому ответы следует проверять в критичных сценариях. Использование регулируется пользовательской лицензией Llama 3.2 Community License и связанными условиями Meta.

Theros/Q2.5-ColdBrew-R1-Obsidian — объединённая текстовая модель, созданная с помощью mergekit методом Passthrough на основе Theros/Qwen2.5-ColdBrew-R1. Это плотная авторегрессионная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и примерно 8,7 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия, а заявленная длина контекста составляет 131072 токена. Модель распространяется в формате safetensors; условия лицензии в предоставленных данных не описаны.

Qwen1.5-1.8B-Chat — чатовая языковая модель из семейства Qwen, разработанная командой Qwen. Это бета-версия Qwen2, основанная на декодерной архитектуре Transformer и предназначенная для диалогов и генерации текста. Модель содержит 1,5 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель поддерживает многоязычный ввод и вывод, а её токенизатор адаптирован к разным естественным языкам и программному коду. В архитектуре используются активация SwiGLU и смещение QKV в механизме внимания. Карточка относит её к чатовым моделям и отмечает улучшение предпочтений пользователей для диалоговой версии семейства. Модель подходит для чат-ботов, ответов на запросы и генерации текста. В README советуют использовать Transformers версии 4.37.0 или новее и параметры генерации из generation_config.json, чтобы снизить проблемы с переключением языков и другие нежелательные результаты. Лицензия указана как other, поэтому условия использования следует сверять с лицензией репозитория.

win10/Qwen2.5-12.3B — языковая модель семейства Qwen2.5, созданная автором репозитория с помощью mergekit из слоёв Qwen/Qwen2.5-7B. Конфигурация использует метод passthrough и формат bfloat16; в метаданных архитектура указана как плотная Qwen2ForCausalLM с 11,7 млрд параметров. Модель предназначена для генерации текста и диалогового применения. Её можно использовать для ответов на вопросы, написания текстов и интеграции в чат-системы; метаданные также отмечают интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Метаданные указывают библиотеку Transformers и лицензию не сообщают, поэтому условия использования определить по доступным данным нельзя.

Qwen2.5-14B-Instruct-4bit — преобразованная в формат MLX 14-миллиардная instruct-модель семейства Qwen2.5, опубликованная mlx-community. Она предназначена для диалоговой генерации текста и работы с запросами в формате чата; в метаданных также отмечен интерфейс вызова инструментов. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Репозиторий создан 18 сентября 2024 года, использует формат safetensors и лицензию Apache-2.0. README указывает, что конверсия выполнена из Qwen/Qwen2.5-14B-Instruct с помощью mlx-lm 0.18.1. Русский язык не заявлен в языковых тегах карточки; в метаданных указан английский.

Unsloth представил эту версию инструктивно дообученной языковой модели Qwen2.5 с 1,5 млрд параметров. Это плотная авторегрессионная модель семейства Qwen2, рассчитанная на диалоги и генерацию текста; метаданные также отмечают интерфейс для вызова инструментов. Архитектура Qwen2 использует RoPE, SwiGLU, RMSNorm и grouped-query attention. Контекст модели — 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель подходит для чат-ботов, следования инструкциям, генерации длинных и структурированных ответов, включая JSON, а также задач по программированию и математике. В карточке заявлена поддержка более 29 языков, среди них английский, китайский и русский; метаданные отдельно подтверждают английский. Модель загружается через Transformers и сохранена в формате safetensors. Лицензия — Apache-2.0. Компактный размер упрощает применение модели по сравнению с более крупными версиями семейства, однако качество и устойчивость могут быть ниже, чем у более крупных моделей; README не приводит подробных результатов оценки именно этого репозитория. Для работы требуется достаточно свежая версия Transformers: README предупреждает о проблемах с версиями ниже 4.37.0.

Карточка модели ashphisher/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.

Карточка модели kyoganath786/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.

Карточка модели SpectreFestival/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.

Карточка модели zomasec/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.

CalamitousFelicitousness/Qwen2.5-3B-Instruct-fp8-dynamic — инструкционная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это каузальная Transformer-модель для генерации текста и диалоговых сценариев, включая следование инструкциям, ответы на вопросы, работу со структурированными данными и создание структурированных ответов, в том числе JSON. Указанная версия основана на Qwen/Qwen2.5-3B и использует динамическое 8-битное представление FP8, однако подробности реализации квантования в README не приведены. Модель содержит 3,09 млрд параметров, из которых 2,77 млрд не относятся к эмбеддингам, и имеет 36 слоёв. Архитектура включает RoPE, SwiGLU, RMSNorm, смещения в QKV внимания, связанные эмбеддинги слов и GQA с 16 головами для Q и 2 для KV. Полная длина контекста составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Заявлена поддержка более 29 языков, включая английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Сильными сторонами являются улучшенные возможности в программировании и математике, следование инструкциям, генерация длинных текстов, обработка структурированных данных и устойчивость к разнообразным системным промптам. Ограничения включают меньший размер по сравнению с крупными моделями семейства и отсутствие в README подробных результатов оценки, требований к аппаратным ресурсам, характеристик производительности и описания модальностей, отличных от текста. Лицензия указана как qwen-research; применимые условия следует уточнять в тексте лицензии Qwen/Qwen2.5-3B.

ThomasBaruzier/Qwen2.5-3B-Instruct-GGUF — набор GGUF-квантизированных версий инструкционно дообученной языковой модели Qwen2.5-3B-Instruct. Исходную модель разработала команда Qwen компании Alibaba Cloud; данный репозиторий содержит квантизации, созданные с помощью llama.cpp и метода imatrix с использованием калибровочного файла Bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая следование инструкциям, создание длинных текстов, работу со структурированными данными и JSON, программирование и математические задачи. Она поддерживает более 29 языков, среди явно указанных — китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Это каузальная Transformer-модель с RoPE, SwiGLU, RMSNorm, смещениями в Attention QKV и связанными эмбеддингами слов. Модель содержит 3,09 млрд параметров, 36 слоёв и использует Grouped-Query Attention с 16 головами для Q и 2 для KV. Заявлена длина контекста до 32 768 токенов и генерация до 8192 токенов. Главное преимущество репозитория — выбор компромиссов между размером файлов, качеством и требованиями к памяти: варианты занимают примерно от 755 МБ до 5,9 ГБ, при этом качество квантования различается, поэтому наиболее компактные версии могут заметно уступать F16. Лицензия указана как qwen-research; применяются условия лицензии исходной модели Qwen2.5-3B-Instruct.

bunnycore/Qwen2.5-7B-HyperMix — объединённая модель семейства Qwen2.5, созданная автором репозитория с помощью mergekit. В качестве базовой использована Orion-zhen/Qwen2.5-7B-Instruct-Uncensored; при слиянии DARE TIES также включены huihui-ai/Qwen2.5-7B-Instruct-abliterated-v2, Replete-AI/Replete-LLM-V2.5-Qwen-7b и EVA-UNIT-01/EVA-Qwen2.5-7B-v0.0. Модель предназначена для диалогов и генерации текста. Это плотная причинная языковая модель на 7,1 млрд параметров с контекстом до 32 768 токенов; репозиторий использует формат safetensors и библиотеку Transformers. Карточка не приводит подробных оценок качества или гарантированных преимуществ относительно включённых моделей. Модель принимает текст и генерирует текст. В метаданных указана лицензия Apache-2.0.

Модель nextvalueup/Qwen2.5-7B-Instruct — дообученная разговорная языковая модель семейства Qwen2.5, разработанная nextvalueup на базе unsloth/qwen2.5-7b-instruct-bnb-4bit. Она предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы и взаимодействие через интерфейс вызова инструментов. Модель имеет плотную архитектуру Qwen2ForCausalLM и содержит 7,1 млрд параметров; максимальная длина контекста составляет 32 768 токенов. Веса представлены в формате PyTorch. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0. README сообщает, что обучение проводилось с использованием Unsloth и Hugging Face TRL.