II.8Инженерия данных и аналитика

NVIDIA DeepSeek-R1-NVFP4-v2 — FP4-квантованная версия языковой модели DeepSeek R1, подготовленная NVIDIA с помощью TensorRT Model Optimizer. В карточке указано, что модель разработана не NVIDIA, а создана по требованиям третьей стороны. Архитектура основана на трансформере DeepSeek V3; модель содержит 37,6 млрд параметров и рассчитана на контекст до 163 840 токенов. Модель принимает текст и генерирует текст, поэтому подходит для диалогов, ответов на вопросы и пошагового решения задач. По сравнению с nvidia/DeepSeek-R1-FP4 в этой версии дополнительно квантован модуль wo в слоях внимания. Квантование весов и активаций линейных операторов снижает требования к диску и видеопамяти примерно в 1,6 раза. Для инференса карточка указывает TensorRT-LLM и совместимость с архитектурой NVIDIA Blackwell; пример развертывания требует 8 GPU B200. Модель распространяется по лицензии MIT и заявлена для коммерческого и некоммерческого использования. Она может выдавать неточные, нерелевантные или избыточные ответы и воспроизводить токсичность и социальные предубеждения из обучающих данных.

Это тестовая версия alignment-tuned модели на базе семейства Llama, дообученной с использованием методов instruction fine-tuning и direct preference optimization (DPO). Она предназначена для генерации текста и выполнения инструкций в диалоговых сценариях. Модель содержит 20,9 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; в репозитории представлены веса в формате safetensors. В метаданных указан английский язык. Модель разработана автором репозитория 4season. Лицензия — Apache-2.0. Карточка обозначает её как тестовую версию, поэтому качество и пригодность для конкретных задач требуют отдельной проверки.

FireFunction v2 — модель для генерации текста и вызова функций, разработанная Fireworks AI и представленная в формате GGUF в репозитории bartowski. Это квантизированная версия исходной модели firefunction-v2, подготовленная с использованием llama.cpp и метода imatrix. Модель предназначена для интеграции с приложениями, где ассистент должен отвечать обычным текстом или выбирать и вызывать одну или несколько внешних функций на основе запроса пользователя. Модель поддерживает сценарии function calling: формирование вызовов функций в формате JSON, выбор подходящих функций и передачу аргументов согласно заданной JSON-схеме. В README приведён специальный шаблон промпта с системными инструкциями для принятия решения о вызове функции. Доступны варианты квантования от IQ1_M до Q8_0, различающиеся размером файла и ожидаемым качеством; рекомендуются, в частности, Q6_K, Q5_K_M и Q4_K_M. Квантизация уменьшает требования к ресурсам, но низкобитные варианты могут заметно терять в качестве. В README не указаны размер исходной модели, архитектура, максимальная длина контекста, поддерживаемые языки и результаты сравнительных тестов, поэтому эти характеристики нельзя надёжно определить. Модель распространяется по лицензии llama3.

Gemma-7B-slerp — текстовая языковая модель, созданная Arcee AI слиянием Google Gemma 7B и Gemma 7B Instruct методом SLERP с помощью mergekit. Она предназначена для генерации текста, диалога и ответов на вопросы; объединение базовой и инструктивной версий нацелено на сочетание их свойств. Модель построена на плотной архитектуре GemmaForCausalLM, содержит 8,2 млрд параметров и поддерживает контекст до 8192 токенов. Модель принимает текст и выдаёт текст. В карточке приведены результаты оценки на наборах AGIEval, GPT4All, TruthfulQA и Bigbench. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0. Показатели из карточки не гарантируют качество на конкретных задачах, поэтому перед применением модель стоит оценить на своих данных.

Instruct-v0.2-Seraph-7B — языковая модель Weyaxi для генерации текста в формате инструкций. Она создана слиянием методом SLERP моделей Weyaxi/Seraph-7B и mistralai/Mistral-7B-Instruct-v0.2; в конфигурации также указана базовая модель mistralai/Mistral-7B-v0.1. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и имеет контекстное окно 32 768 токенов. Модель подходит для диалоговых ответов и выполнения текстовых инструкций. Веса доступны в формате safetensors, лицензия — Apache-2.0. README не приводит результатов оценки качества или перечня поддерживаемых языков, поэтому конкретные языковые возможности и сравнительные преимущества установить нельзя.

jackalope-7b-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная объединением mistralai/Mistral-7B-Instruct-v0.2 и openaccess-ai-collective/jackalope-7b методом SLERP с помощью mergekit. Модель содержит 7,1 млрд параметров, распространяется в формате Safetensors и рассчитана на генерацию текста и ответы на инструкции в диалоговом режиме. Контекст составляет до 32 768 токенов. Модель подходит для диалоговых приложений, генерации текста и ответов на запросы. В метаданных не указаны специализированные предметные области или поддерживаемые языки, поэтому их нельзя уверенно определить. Модель распространяется по лицензии Apache-2.0.

Llama-3.1-8B-MagPie-Ultra — плотная языковая модель с архитектурой LlamaForCausalLM, дообученная Argilla Warehouse на наборе argilla-warehouse/magpie-ultra-v1.0. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель основана на meta-llama/Llama-3.1-8B и распространяется в формате safetensors по лицензии Llama 3.1. В README приведено значение loss 0,5915 на оценочном наборе, но подробности об оценке, обучающих данных и ограничениях не раскрыты. Языки и специальные прикладные области для этой производной модели не уточнены.

Llama-3-8B-instruct-x-OrpoLlama-3-8B — объединённая диалоговая модель на базе Llama 3, созданная с помощью LazyMergekit. В конфигурации указаны Llama-3-8B-instruct от AI-Sweden-Models и mlabonne/OrpoLlama-3-8B; применён метод слияния dare_ties с параметрами density 0,53, weight 0,6 и маской int8. Веса сохранены в формате bfloat16. Модель предназначена для диалоговой генерации текста и ответов на запросы в чате. Она содержит около 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 8192 токенов. Метаданные указывают на дообученную базовую модель mlabonne/OrpoLlama-3-8B; описание базовой модели отмечает шаблон ChatML. Сведений о лицензии и поддерживаемых языках в предоставленных данных нет.

Llama-3-Groq-8B-Tool-Use-GGUF — набор GGUF-квантизированных версий модели Llama-3-Groq-8B-Tool-Use, разработанной Groq на базе Llama 3. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста на английском языке, включая сценарии tool use и function calling, где требуется взаимодействие с внешними инструментами или API. Это текстовая модель без заявленной поддержки изображений или других модальностей. Модель содержит около 8 млрд параметров и распространяется в вариантах от F32 до Q2_K и IQ2_M с размером файлов примерно от 2,95 до 32,13 ГБ. Доступны различные уровни квантизации, включая рекомендуемые Q4, Q5 и Q6, позволяющие выбирать баланс между качеством и требованиями к оперативной памяти. Для запуска предлагается использовать llama.cpp или LM Studio; README также указывает специальный формат промпта с ролями system, user и assistant и служебными токенами Llama 3. Размер контекста в предоставленных данных не указан. Сильными сторонами являются специализация на использовании инструментов, широкий выбор квантизированных вариантов и возможность локального запуска. Более агрессивная квантизация уменьшает требования к памяти, но может снижать качество ответов; варианты с низким битрейтом прямо характеризуются как низкокачественные или не рекомендуемые. Лицензия указана как llama3.

Kaballas/m_1 — текстовая генеративная модель, созданная Kaballas путём слияния нескольких предварительно обученных моделей с помощью mergekit и метода Model Stock. В качестве базовой использована Qwen/Qwen2.5-7B-Instruct; в слияние также вошли модели для рассуждений и генерации текста, включая DrNicefellow/Qwen2.5-7B-O1-Journey-1, C10X/CoT-2.5, bunnycore/Qwen2.5-7B-CyberRombos, djuna/Q2.5-Fuppavy-7B, Kaballas/TLetsgo и jeffmeloy/Qwen2.5-7B-nerd-uncensored-v1.7. Модель семейства Qwen2 имеет плотную архитектуру Qwen2ForCausalLM, содержит 7,1 млрд параметров и принимает текстовый контекст длиной до 32 768 токенов. Она предназначена для диалогов и генерации текста, в том числе ответов с рассуждениями. Репозиторий использует формат safetensors и библиотеку Transformers; заявлен интерфейс для вызова инструментов. В метаданных лицензия не приведена. Поскольку это слияние моделей, поведение и ограничения зависят от исходных компонентов; README не содержит оценки качества или подробных ограничений.

M7Yamshadowexperiment28_T3qT3qm7 — объединённая языковая модель на архитектуре Mistral, созданная из automerger/M7Yamshadowexperiment28-7B и automerger/T3qT3qm7-7B. Модель содержит 7,1 млрд параметров и принимает текст для авторегрессионной генерации текста; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и диалога. По описанию базовой модели, она также подходит для ответов на математические запросы. Данных о специальной отраслевой настройке или поддерживаемых языках нет. Весовые файлы представлены в формате safetensors. Лицензия — Apache-2.0. Качество ответов может различаться в зависимости от запроса; подтверждённых сведений о точности и специальных ограничениях в карточке нет.

DevQuasar опубликовал GGUF-версию microsoft/Phi-4-reasoning-vision-15B. Это мультимодальная чат-модель с поддержкой изображений, предназначенная для ответов на вопросы по визуальным данным и рассуждений об изображениях. Каталог относит базовую модель к дообученным моделям Microsoft; в репозитории указаны веса GGUF в формате F16. Модель подходит для анализа изображений и документов, а также для работы со скриншотами графических интерфейсов. Карточка не сообщает подробностей о размере контекста, языках и условиях лицензии этой копии, поэтому их нельзя уточнить по доступным данным.

Vezora/Mistral-14b-Merge-Base — базовая текстовая генеративная модель, созданная Николасом Мехией Пети путём объединения моделей Dolphin, Zephyr, MetaMath и Speechless Code на базе Mistral, а затем дообученная и объединённая с LoRA-адаптером. В репозитории указано около 14,3 млрд параметров; метаданные Hugging Face сообщают 14,1 млрд. Модель использует архитектуру MistralForCausalLM и формат safetensors, поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и ответов на запросы, а её обучающий датасет был модифицированной версией airoboros-m-7b-3.1.2 в формате Alpaca. Языки и специализированные сценарии применения в карточке не уточняются. По описанию автора, модель может чрезмерно задавать встречные вопросы при обработке запросов длиннее 512 токенов — это указанное ограничение её обучения с QLoRA. Лицензия — Apache-2.0.

EmbeddedLLM/Mistral-7B-Merge-14-v0.2 — плотная языковая модель семейства Mistral, созданная EmbeddedLLM как экспериментальное слияние моделей. Сначала 14 моделей на базе Mistral объединили методом DARE TIES, затем результат слили с janai-hq/trinity-v1 методом Gradient SLERP. В карточке базовой моделью также указана mistralai/Mistral-7B-v0.1. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат safetensors; длина контекста — 32 768 токенов. Модель предназначена для генерации текста и служит базовым чекпойнтом, которому, по словам авторов, требуется дополнительное дообучение на инструкциях. В состав слияния вошли модели для диалога, математики, кода, научных вопросов и работы с документами. В карточке приведены результаты Open LLM Leaderboard: средний балл 72,88, включая ARC, HellaSwag и MMLU. Основной заявленный язык — английский. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование. Авторы отмечали риск загрязнения данных в некоторых моделях, участвовавших в первоначальном варианте, и сообщили о пересборке; состав описанного слияния при этом включает janai-hq/trinity-v1.

OpenPipe mistral-ft-optimized-1227 — это объединённая модель на архитектуре Mistral для генерации текста и последующего дообучения под прикладные задачи. Она создана OpenPipe методом иерархического слияния SLERP моделей teknium/OpenHermes-2.5-Mistral-7B, Intel/neural-chat-7b-v3-3, meta-math/MetaMath-Mistral-7B и openchat/openchat-3.5-1210. Веса опубликованы в формате safetensors; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель позиционируется как сильная отправная точка для дообучения под разные задачи, а также может использоваться для генерации текста, диалогов и ответов на математические вопросы благодаря входящим в слияние моделям. Разработчик сообщает о внутренних оценках, но количественные результаты в карточке не приведены. Модель лицензирована по Apache-2.0.

KnutJaegersberg/MistralInstructLongish — дообученная инструкция-модель семейства Mistral, созданная автором KnutJaegersberg. Модель обучалась около трёх эпох на объединении нескольких наборов инструкций, включая часть более длинных инструкций, и рассчитана на генерацию ответов в формате Alpaca с разделами Instruction, необязательным Input и Response. Это плотная причинная языковая модель MistralForCausalLM на 7,1 млрд параметров с контекстом до 32 768 токенов. Она предназначена для следования инструкциям и генерации текста; в карточке приведены результаты оценки на Open LLM Leaderboard, включая среднее значение 48,99, ARC и HellaSwag. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Карточка не описывает языки обучения, поэтому языковую специализацию нельзя установить. Результаты бенчмарков не гарантируют качество на конкретных пользовательских задачах; данных о дополнительных ограничениях или проверках безопасности нет.

Mistralopithecus-v1-dpo-7b-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением Mistral-7B-Instruct-v0.2 и mistralopithecus-v1-dpo-7b методом SLERP с помощью mergekit. Это плотная архитектура MistralForCausalLM с 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в диалоговом формате. Модель принимает текст и выдаёт текст; длина контекста составляет до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. README описывает способ слияния и исходные модели, но не приводит отдельной оценки качества или подробностей о языках и специализированных областях применения.

arcee-ai выпустила mistral-v2-sec-dolphin — объединение двух предварительно обученных языковых моделей, созданное с помощью mergekit методом SLERP: sec-mistral-7b-instruct-1.6-epoch от Arcee AI и dolphin-2.8-mistral-7b-v02 от Cognitive Computations. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате. Её можно применять для ответов на вопросы, ведения диалога и создания текста. Карточка не уточняет языки и специализированные предметные области, поэтому их нельзя конкретизировать. Репозиторий содержит веса Safetensors; метаданные указывают библиотеку Transformers. Условия лицензирования в предоставленных данных не приведены.

MRAI_synatra_7B_v1-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.2 и MRAIRR/MRAI_synatra_7B_v1 методом SLERP. Она предназначена для генерации текста и выполнения инструкций в чате. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. Слияние собрано в bfloat16 с помощью MergeKit; в качестве базовой модели указан mistralai/Mistral-7B-Instruct-v0.2. В карточке не описаны специализированные области применения или подтверждённый перечень языков. Модель распространяется по лицензии Apache-2.0.

Munin-NeuralBeagle-Flashback-Bellman — языковая модель для генерации текста, созданная объединением моделей с помощью LazyMergekit. Карточка описывает смешивание RJuro/munin-neuralbeagle-7b и birgermoell/Flashback-Bellman методом dare_ties; метаданные указывают базовую Mistral-архитектуру и 7,1 млрд параметров. Модель предназначена для генерации текста по текстовому запросу. Заявленная длина контекста составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors с типом bfloat16. Лицензия и конкретные поддерживаемые языки в предоставленных источниках не обозначены.

NeuralPipe-7B-ties — слитая модель для генерации текста, созданная mlabonne с помощью mergekit на основе OpenPipe/mistral-ft-optimized-1218 и mlabonne/NeuralHermes-2.5-Mistral-7B. В конфигурации слияния TIES также указана mistralai/Mistral-7B-v0.1 как базовая модель; параметры включают нормализацию и маску int8, итоговый тип данных — float16. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров. Заявленная длина контекста — 32 768 токенов. Она предназначена для генерации текста; README приводит результаты оценок на AI2 Reasoning Challenge и HellaSwag. Репозиторий распространяется по лицензии Apache-2.0.

TobDeBer/Olmo-3-1025-7B-magic1 — преобразованная с помощью Magic V1 версия языковой модели OLMo 3 7B, разработанной Allen Institute for AI (Ai2). Это плотная авторегрессионная Transformer-модель примерно с 6,9 млрд параметров, предназначенная для генерации текста и продолжения запросов. Модель обучалась на данных Dolma 3; карточка описывает этапы предварительного обучения, дообучения на смешанных данных и обучения для длинного контекста. Модель работает с текстом на английском языке и поддерживает контекст до 65 536 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Подходит для генерации текста, ответов на вопросы, задач по математике и коду, однако конкретное качество на таких задачах зависит от запроса и развёртывания. Это базовая языковая модель без фильтрации безопасности: она может выдавать неточные, предвзятые или вредоносные ответы, поэтому факты следует проверять. Модель и код распространяются по лицензии Apache 2.0.

Open-Instruct Dolly 7B — языковая модель Allen Institute for AI (AI2), полученная дообучением 7-миллиардной LLaMA на наборе инструкций Databricks Dolly 15K. Это плотная авторегрессионная модель семейства LLaMA для генерации текста по инструкциям и диалоговых запросов на английском языке. Модель предназначена для ответов на вопросы, следования инструкциям и решения разнообразных текстовых задач; в карточке также приведены результаты оценок на тестах знаний, математики, рассуждений, понимания вопросов и генерации кода. Размер по метаданным — 6,6 млрд параметров, контекст — 2048 токенов. Репозиторий содержит diff весов, поэтому для использования требуется исходная LLaMA в формате Hugging Face и совместимые веса. Модель выпущена в рамках исследования instruction tuning на открытых ресурсах. Указаны лицензия AI model license из LICENSE.txt и исходная лицензия LLaMA; перед применением необходимо учитывать условия обеих лицензий. Карточка не сообщает подробностей о режимах развёртывания или гарантиях качества.

OpenSonnet-Lite — компактная языковая модель с открытыми весами, разработанная сообществом Open Source и дообученная на основе Qwen/Qwen3-4B-Thinking-2507. Это плотная причинная модель семейства Qwen3 с 3,7 млрд параметров по метаданным. Она предназначена для генерации текста и пошаговых рассуждений; исправленный шаблон чата поддерживает связное рассуждение в многоходовых диалогах. В README заявлена близкая к Claude Sonnet 4.6 производительность на задачах рассуждения, однако независимые результаты оценки не приведены. Модель рассчитана на повседневное использование, в том числе на ограниченных ресурсах; для демонстрационного запуска автор указывает две GPU T4. В README приведены рекомендации по длине генерации от нескольких тысяч до 131 072 токенов, а метаданные указывают нативный контекст 262 144 токена. Обучение включало около 140 тысяч отфильтрованных примеров из наборов данных с рассуждениями разных моделей. Модель принимает текст и генерирует текст; конкретный перечень поддерживаемых естественных языков не установлен. Модель может галлюцинировать, особенно на узких темах и при работе с актуальными фактами. README также предупреждает о возможном наследовании предвзятости источников данных и отсутствии встроенного фильтра безопасности или специального аудита. Лицензия — Apache-2.0.

Phoenix-v1-8x7B — экспериментальная чат-модель от Jan, созданная как MoE-слияние нескольких моделей для общего общения, ролевых диалогов, программирования и написания текстов. В README базовая модель названа trinity-v1; также перечислены Toppy-M-7B, CodeLlama-7b-Instruct-hf и Seraph-7B как источники навыков. В метаданных указана архитектура Mixtral MoE и класс MixtralForCausalLM, 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. Модель предназначена для чат-ботов и локального запуска через Jan Desktop на macOS, Windows и Linux. Основной язык по карточке и тегам — английский. Качество не подтверждено опубликованными результатами: таблица оценки в README содержит вопросительные знаки. Модель распространяется по лицензии Apache-2.0.

Pirouette-7b — текстовая генеративная модель на архитектуре Mistral, созданная автором репозитория ddh0 путём градиентного слияния SLERP моделей dolphin-2.1-mistral-7b и Noromaid-v0.1.1-13b. По замыслу автора, модель сохраняет основную часть возможностей Dolphin и добавляет некоторые особенности Noromaid. Модель предназначена для диалогов и выполнения инструкций в формате Alpaca. В карточке заявлена длина контекста 32 768 токенов; метаданные указывают 7,1 млрд параметров. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Pythia-Chat-Base-7B — диалоговая языковая модель, разработанная Together Computer в рамках OpenChatKit и дообученная на базе Pythia-7B от EleutherAI. Для настройки использовались более 40 млн инструкций, а затем небольшая выборка отзывов людей для адаптации ответов к предпочтениям пользователей. Модель имеет плотную архитектуру GPT-NeoX, около 8,8 млрд параметров и контекст до 2048 токенов; основной язык — английский. Модель предназначена для чат-ботов и диалоговых сценариев. Она подходит для ответов на вопросы по предоставленному контексту, суммаризации, извлечения информации и классификации; в задачах классификации и извлечения может помогать несколько примеров в запросе. По README, инференс в обычном режиме требует GPU с 24 ГБ памяти, а режим Int8 позволяет использовать GPU с 12 ГБ. Модель распространяется по лицензии Apache 2.0. Модель может галлюцинировать при ответах на фактические вопросы, повторять ответы и терять нить разговора при смене темы. Она слабо подходит для программирования, длинных творческих текстов и критически важных решений; результаты следует проверять.

q36 — диалоговая языковая модель на архитектуре Qwen3, опубликованная пользователем tjcrims0n. Это полноразмерный экспорт весов после слияния LoRA-адаптера, полученного в эксперименте Annihilate trial 71, с дообученной базовой моделью khazarai/Qwen3-4B-Qwen3.6-plus-Reasoning-Distilled. Модель содержит 3,7 млрд параметров, принимает текст и генерирует текст; максимальная длина контекста — 262 144 токена. Модель предназначена для диалоговых ответов и генерации текста, в том числе для задач с рассуждениями, унаследованных от базовой модели. В README указаны нулевые отказы в шести проверках, но этого недостаточно для выводов о надёжности или безопасности ответов. Веса сохранены в формате Safetensors с точностью bfloat16 и доступны по лицензии Apache-2.0.

Q3.6-27B-GLM-5.1-DA-GGUF — экспериментальная GGUF-версия модели, разработанная prithivMLmods. Она создана на базе Qwen/Qwen3.6-27B и производной prithivMLmods/Qwen3.6-27B-abliterated-rMAX с использованием дистиллированных рассуждений GLM-5.1, анализа направлений отказа и методов абляционного обучения. Модель ориентирована на подробное контекстное рассуждение, решение математических задач и выполнение инструкций на английском языке. Модель содержит 27 миллиардов параметров и распространяется в форматах BF16, F16 и различных вариантах квантизации GGUF от Q2_K до Q8_0. Также доступны файлы mmproj, однако README не описывает подтверждённые мультимодальные возможности и поддерживаемые типы входных данных. Размер контекста и другие параметры архитектуры не указаны. К сильным сторонам относятся акцент на reasoning, подробные ответы и instruction following. Из-за уменьшенных внутренних механизмов отказа модель может генерировать чувствительный или неограниченный контент, поэтому требует осторожного применения и проверки результатов. Авторы отмечают экспериментальный статус и возможность артефактов; модель предназначена для исследований и обучения. Лицензия — Apache 2.0.

Qwen1.5-0.5B-Chat-GPTQ-Int4 — чат-модель семейства Qwen1.5, разработанная командой Qwen (Tongyi Qianwen). Это decoder-only языковая модель на архитектуре Transformer, предназначенная для диалогового взаимодействия и генерации текста. Модель подходит для создания ассистентов, ответов на вопросы, кратких объяснений и других сценариев text generation. Модель содержит около 0,5 млрд параметров и распространяется в квантизированном формате GPTQ с точностью Int4, что снижает требования к памяти по сравнению с полноточными вариантами. Она поддерживает текстовую модальность, английский язык и, согласно описанию семейства, мультиязычную работу и обработку кода. Заявлена поддержка контекста до 32K токенов. Архитектура включает SwiGLU и attention с QKV bias; для beta-версии Qwen1.5 group query attention и сочетание sliding window attention с full attention временно не использовались, за исключением отдельных вариантов семейства. Модель предварительно обучалась на большом объёме данных, а чат-версия дополнительно настраивалась с помощью supervised fine-tuning и direct preference optimization. Её сильные стороны — небольшой размер, пониженные требования к памяти благодаря Int4-квантизации и готовность к диалоговым сценариям. Ограничениями являются малый размер по сравнению с более крупными моделями семейства, возможное ухудшение качества при сложных задачах и ошибки при переключении языков; разработчики рекомендуют использовать параметры генерации из generation_config.json. Лицензия указана как tongyi-qianwen-research; применимые условия приведены в файле LICENSE репозитория.