tiny-dummy-qwen2

Она предназначена для генерации текста и поддерживает сценарии conversational text generation через Transformers, а также совместима с инструментами vLLM и SGLang. В репозитории отсутствует подробное описание обучения, набора данных и целевых прикладных сценариев, поэтому модель следует рассматривать прежде всего как демонстрационный или внутренний тестовый артефакт.

Архитектура указана как Qwen2ForCausalLM с двумя слоями Transformer, размером скрытого состояния 8, четырьмя attention heads, двумя key-value heads и промежуточным размером 32. Модель работает с текстом, использует словарь из 151936 токенов, максимальную позиционную длину 32768 токенов и формат float32; заявленная модальность — только текст. Языки явно не указаны. Из-за крайне малого размера и отсутствия сведений о полноценном обучении нельзя ожидать качественной генерации или надёжного применения в реальных задачах; производительность и ограничения не представлены в карточке модели. Лицензия — MIT.